vscrawler 0.3.0 发布,抓取复杂交互逻辑的爬虫框架

  

vscrawler是一个爬虫框架,用来突破各类网站封禁策略。到目前vscrawler已经支持了很多特性。

  1. 0.0.x vs基础结构确定

  2. 0.1.x 对数据抽取进行完整设计,包括xpath、链式抽取、字符串函数集、表格数据定位

  3. 0.2.0 支持运行多个爬虫实例(context隔离)

  4. 0.2.1 支持注解爬虫

  5. 0.2.2 完整设计爬虫资源队列管理,处理资源的分发、封禁、解禁、多机器分发隔离,用来处理账号、设备号、token等可复用资源

  6. 0.2.3-6 同步抓取接口,关于超时时间的各种优化(同步抓取系统需要实时性),自此vscrawler在离线抓取和在线抓取上面都得到了工程性的验证

  7. 0.3.x web端的实现,除了常规框架支持的爬虫启停控制,还提供爬虫代码热替换、抓取封装为restful接口两个特色功能

这次我实现了vscrawler 0.3.0,最主要的功能是实现了一个爬虫管理平台,爬虫平台支持任何基于vscrawler的爬虫实现在该平台进行热部署(jar包的方式)。vscrawler的前端代码在vscrawler项目外部,其地址为:https://gitee.com/virjar/vscrawler-frontend  。

除了热加载之外,这次借助于web项目的开发,暴露了在线抓取接口,使用方可以在加载自己的爬虫实现之后,直接通过restful接口实现数据抓取的调用。在线接口能够同时又session复用,资源队列,数据抽取等能力,同时vscrawler也支持了在线抓取和批量抓取在系统中共存。也即可以同时存在推拉两种模式。

除此之外,本次更新删除了基于bloomFilter进行任务消重的功能。让任务直接在db层面进行消重。vscrawler内置的BerkeleyDB完全能够满足高效消重的需求了。

web端刚刚实现,由于涉及用户交互,可能真的有些没有覆盖测试完整的bug,各位轻喷。

ps:0.2.6在我司已经运行半年多了,至今没有出现过问题,一直稳定提供数据,应该没啥大问题:-D

另外,非常感谢杨博文帮助我实现vscrawler的前端@ https://gitee.com/wssss

猜你喜欢

转载自www.oschina.net/news/96043/vscrawler-0-3-0-released