数据分析采集器:八爪鱼

             以前,我一直用python来爬去固定网站的信息,不管是静态还是动态,编码能够实现很多东西,包括框架的使用更能凸显python的方便,but,在实际工作中,你看到的是什么?数据分析有时候并不需要计算机功底,不会有那种画了很多时间做一件事情的准备。人们一直在探索,这些基础的东西反复下来,肯定有被人用烦过,从而为了一劳永逸,去做了一些工具。今天就来谈谈那些采集器吧。

官网:http://www.bazhuayu.com/tutorialIndex

作为同时使用八爪鱼采集器和写爬虫的非技术的莫名其妙喜欢自己琢磨技术的互联网运营喵。。。我来谈谈心得感想。

八爪鱼有一些优势,比如学习成本低,可视化流程,快速搭建采集系统。能直接导出excel文件和导出到数据库中。降低采集成本,云采集提供10个节点,也能省事不少。

不好的地方就是,即使看似很简单了,而且还有更傻瓜化的smart模式,但是里面的坑只有用的多的人才清楚。关于这个我在我的博客里简单写了写,不过说实话心得太多,还没仔细整理。

首先里面的循环都是xpath元素定位,如果用单纯的傻瓜化点击定位的话,很死板,大批量采集页面的时候很容易出错。另外用这个工具的,因为方便,小白太多,成天有人问普通问题,他们都不会看页面结构,也不懂xpath,很容易出现采集不全,无限翻页等问题。

但是八爪鱼采集器的ajax加载,模拟手机页面,过滤广告,滚动至页面底端等功能堪称神器,一个勾选就能搞定。写代码很麻烦的,实现这些功能费劲。

八爪鱼毕竟只是工具,自由度肯定完败编程。胜在方便,快速,低成本。

八爪鱼判断语录较弱,无法进行复杂判断,也无法执行复杂逻辑。还有就是八爪鱼只有企业版才能解决验证码问题,一般版本无法接入打码平台。

还有一点就是没有ocr功能,58同城和赶集网采集的电话号码都是图片格式,python可以用开源图像识别库解决,对接进去识别便可。

除非对技术有很高要求,否则我觉得八爪鱼采集器很好用,比火车采集器好用,虽然效率没那么高,但是比起费劲学习和研究数据包,还是用这个省事。我没事也会在八爪鱼群里解答一些规则编制的问题。

火车采集器解析json数据必须高级版本,真烦,八爪鱼效率低一些但是可采集范围广。但是火车采集器有58同城插件。。。

如果你是小白,很想省事情。我来给你看看好玩的东西。

除了以上100多个网站的218个模板外,我们后续还会再制作上百个网站数百个模板,让用户从此采集更多网站无需配置采集规则。

这些模板对应的网站,都是用户大多数想要采集的网站,以大众点评为例,大多数都在采集商家列表,商家详情,团购详情等等,八爪鱼先帮大家把这些采集规则配置好,大家只需要填入一些参数(如城市入口地址,翻多少页等等)即可进行采集,页面上所有字段几乎都会包含,如遇到不需要的删除即可。

并且有些模板还帮用户做了特殊处理,进行了云优化与云突破,可以在云端无限采集,无需担心封IP等防采集策略。

简易采集界面也对采集字段,参数配置,样例数据做了详细的说明,保证每个点都说到位,并且运营同学还会对规则做定期的维护与更新,最后达到一个效果,你只需点击一个“立即使用”,即可获取数据。

重点呀,某人说数据搜集器用了很多,并推荐使用火车头,给出了各个热门搜集器的优缺点:

1.火车头采集器:

一款互联网数据取、处理、分析,挖掘软件,可以抓取网页上散乱分布的数据信息,并通过一系列的分析处理,准确挖掘出所需数据。

特点:采集不限网页,不限内容;

分布式采集系统,提高效率;

支持PHP和C#插件扩展,方便修改处理数据。

2.神箭手云采集:

一款新颖的云端在线智能爬虫/采集器,基于神箭手分布式云爬虫框架,帮助用户快速获取大量规范化的网页数据,帮助客户快速轻松地获取大量规范化数据。

特点:直接接入代理IP,无需设置便可避免因IP被限制访问导致的无法采集的问题;

自动登录验证码识别,网站自动完成验证码输入,无需人工看管;

可在线生成图标,采集结果以丰富表格化形式展现;

本地化隐私保护,云端采集,可隐藏用户IP。

3.狂人采集器:

一套专业的网站内容采集软件,支持各类论坛的帖子和回复采集,网站和博客文章内容抓取,分论坛采集器、CMS采集器和博客采集器三类。

特点:支持对文章内容中的文字、链接批量替换和过滤;

可以同时向网站或论坛的多个版块一起批量发贴;

具备采集或发帖任务完成后自动关机功能;

4.三人行采集器:

一套可以把别人网站、论坛、博客的图文内容轻松采集到自己的网站、论坛和博客的站长工具,包括论坛注册王、采集发帖王和采集搬家王三类软件。

特点:采集需要注册登陆后才能查看的论坛帖子;

可以同时向论坛的多个版块一起批量发贴;

支持对文章内容中的文字、链接批量替换和过滤。

5.集搜客:

一款简单易用的网页信息抓取软件,能够抓取网页文字、图表、超链接等多种网页元素,提供好用的网页抓取软件、数据挖掘攻略、行业资讯和前沿科技等。

特点: 可以抓取手机网站上的数据;

支持抓取在指数图表上悬浮显示的数据;

会员互助抓取,提升采集效率。

6.八爪鱼采集器:

一款网页采集软件,可以从不同的网站获取规范化数据,帮助客户实现数据自动化采集,编辑,规范化,从而降低成本,提高效率。

特点:容易上手,完全可视化图形操作;

内置可扩展的OCR接口,支持解析图片中的文字;

采集任务自动运行,可以按照指定的周期自动采集。

猜你喜欢

转载自blog.csdn.net/OYY_90/article/details/82796573
今日推荐