簡単にデータ分析07 |コンテンツのウェブスクレーパーグラブ片

これは、単純なデータ解析シリーズである7件の記事。

第四の記事、私はクロールする方法を説明し、単一のページを単一クラス情報;

では第五の記事、私はクロールする方法について説明以上のページの単一クラス情報;

我々はについて話を今日はクロールする方法である以上のページのマルチクラス情報を。

クロールがである05の簡単なデータ解析行為に基づいて、私たちはそれについての情報をどのように多くの種類を解決するために、クロールするために最善下記のクロールを複数のページの問題を解決するために開始します。

私たちは、実際の運用の前に整理するためのロジックを置きます:

映画の名前:ちょうど少数の地球の要素をつかみます。:この問題は、我々は多くの要素の種類つかむしたいランキング、フィルム名、スコアとピッチを

ウェブスクレーパーの特性によると、私は多くのタイプのデータをつかむしたい、パッケージにデータの多くの種類つかむために最初のコンテナをクロールを補正するように、データ内のコンテナを選択し、そして。私はあなたを示し絵を描きます:

私たちは、コンテナ要素内でクロールその後、より多くのコンテナ(コンテナ)をクロールを開始:数、映画の名前、評価、およびピッチ、クローラが実行されたとき、我々は成功したクロールデータになります。

概念的に明確な、と私たちは実際の動作について話すことができます。

あなたは、操作に関する質問がある場合は、簡単なデータ分析04の内容を見ることができ、物品は、ウェブスクレーパー要素を選択する方法を詳細に動作を示しています

1.点击 Stiemaps,在新的面板里点击 ID 为 top250 的这列数据

2.删除掉旧的 selector,点击 Add new selector 增加一个新的 selector

3.在新的 selector 内,注意把 Type 类型改为 Element(元素),因为在 Web Scraper 里,只有元素类型才能包含多个内容。

我们勾选的元素区域如下图所示,确认无误后点击 Save selector 按钮,就会回退到上一个操作面板。

在新的面板里,点击刚刚创建的 selector 那行数据:

点击后我们就会进入一个新的面板,根据导航我们可知在 container 内部。

在新的面板里,我们点击 Add new selector,新建一个 selector,用来抓取电影名,类型为 Text,值得注意的是,因为我们是在 container 内选择文字的,一个 container 内只有一个电影名,所以多选不要勾选,要不然会抓取失败。

选择电影名的时候你会发现 container 黄色高亮,我们就在黄色的区域里选择电影名就好了。

点击 Save selector 保存选择器后,我们再创建三个选择器,分别选择编号、评分和一句话影评,因为操作和上面一模一样,我这里就省略讲解了。

排名编号:

评分:

一句话影评:

我们可以在面板里观察我们选择的多个元素,一共有四个元素:分别为 name、number、score 和 review,类型都是 Text,不需要多选,父选择器都是 container。

我们可以点击 点击 Stiemap top250 下的 selector graph,查看我们爬虫选择元素的层级关系,确认正确后我们再点击 Stiemap top250 下的 Selectors,回到选择器展示面板。

下图就是我们这次爬虫的层级关系,是不是和我们之前理论分析的一样?

确认选择无误后,我们就可以抓取数据了,操作在 简易数据分析 04简易数据分析 05 里都说过了,忘记的朋友可以看旧文回顾一下。下图是我抓取的数据:

还是和以前一样,数据是乱序的,不过这个不要紧,因为排序属于数据清洗的内容了,我们现在的专题是数据抓取。先把相关的知识点讲完,再攻克下一个知识点,才是更合理的学习方式。

今天的内容其实还是比较多的,大家可以先消化一下,下一篇我们讲讲,如何抓取点击「加载更多」加载数据的网页内容。

点击加载更多数据后,链接未发生改变

sitemap 分享:

这次的 sitemap 就分享给大家,大家可以导入到 Web Scraper 中进行实验,具体方法可以看我上一篇教程文章

Sitemap:

{"_id":"top250","startUrl":["https://movie.douban.com/top250?start=[0-250:25]&filter="],"selectors":[{"id":"container","type":"SelectorElement","parentSelectors":["_root"],"selector":".grid_view li","multiple":true,"delay":0},{"id":"name","type":"SelectorText","parentSelectors":["container"],"selector":"span.title:nth-of-type(1)","multiple":false,"regex":"","delay":0},{"id":"number","type":"SelectorText","parentSelectors":["container"],"selector":"em","multiple":false,"regex":"","delay":0},{"id":"score","type":"SelectorText","parentSelectors":["container"],"selector":"span.rating_num","multiple":false,"regex":"","delay":0},{"id":"review","type":"SelectorText","parentSelectors":["container"],"selector":"span.inq","multiple":false,"regex":"","delay":0}]}

推荐阅读:

简易数据分析 04 | Web Scraper 初尝--抓取豆瓣高分电影

简易数据分析 05 | Web Scraper 翻页——控制链接批量抓取数据




おすすめ

転載: www.cnblogs.com/web-scraper/p/web_scraper_use_element_selector.html