二十一、Python爬取百度文库word文档内容

@Author:Runsen

百度文库在我们需要查找复制一些文档的时候经常用到,下载要收费,开会员,一个字都不给复制,这个时候初学python的小伙伴肯定有个写个百度文库爬虫的想法,这里我给各位分享一下一个简易但实用的爬虫脚本,提供url,生成txt文件。

首先获得url(以这个为例子:https://wenku.baidu.com/view/4e29e5a730126edb6f1aff00bed5b9f3f90f72e7.html )

首先先get一下,我们确认需要爬取的数据是不是异步加载的;如果是异步加载的直接爬取网页是爬不到的。很明显就是前后端分离,

这应该是Ajax交互,所以我们直接找接口就好了。

这个就是纯肉眼找了,我自己找了挺久的发现数据都存在0.json的文件下

一旦我们构造好了url就能获取到json格式的数据了,之后的操作就是清洗文本了。

下面是一个json的网址

https://wkbjcloudbos.bdimg.com/v1/docconvert8356

猜你喜欢

转载自blog.csdn.net/weixin_44510615/article/details/107694231