考研大数据爬取与分析工具3.0开发文档
其他
2020-04-21 10:26:37
阅读次数: 0
1. 工具功能说明
2. 代码设计说明
2.1. spider
2.2. selector
- 筛选器模块
- 为对采集到的数据进行筛选/过滤提供支持
2.3. analyser
2.4. storer
2.5. main-01-getData
- 程序入口模块
- 为打开/启动程序以及调用执行相关库函数提供支持
- 具体的,启动后开始进行第一阶段的数据采集工作
2.6. main-02-analyzeData
- 程序入口模块
- 为打开/启动程序以及调用执行相关库函数提供支持
- 具体的,启动后开始进行第二阶段的数据分析工作
2.7. design pattern
- 设计模式模块
- 为类的设计模式(如单例模式)提供支持!
- 具体的,我们暂时提供了单例模式的装饰器与仅添加添加获取单例方法的装饰器(未重新new方法)
2.8. multiple
- 加速模块模块
- 暂时提供多进程加速(注意在使用多进程进行异步运行时不能运行采用单例模式设计的类的方法)
2.9. 图解
3. 开源仓库
GitHub
码云
发布了605 篇原创文章 ·
获赞 637 ·
访问量 140万+
转载自blog.csdn.net/COCO56/article/details/104125435