Python爬虫实现数据可视化,为你做一个城市旅游数据分析

前言:

本着跟大家一同探讨学习的态度,今后几期文章会更新一些用Python实现爬虫&可视化的文章。Python对于本人来讲也是一个在逐渐学习掌握的过程,这次的内容就从旅游开始讲起,进入正文前首先附(fang)上(du)最令我垂涎欲滴的海鲜盛宴。

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


数据爬取:

最近几天朋友圈被大家的旅行足迹刷屏了,惊叹于那些把全国所有省基本走遍的朋友。与此同时,也萌生了写一篇旅行相关的内容,本次数据来源于一个对于爬虫十分友好的旅行攻略类网站:蚂蜂窝

PART1:获得城市编号

蚂蜂窝中的所有城市、景点以及其他的一些信息都有一个专属的5位数字编号,我们第一步要做的就是获取城市(直辖市+地级市)的编号,进行后续的进一步分析。

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


Python爬虫实现数据可视化,为你做一个城市旅游数据分析


以上两个页面就是我们的城市编码来源,需要首先从目的地页面获得各省编码,之后进入各省城市列表获得编码。过程中需要Selenium进行动态数据爬取,部分代码如下:

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


PART2:获得城市信息

城市数据分别从以下几个页面获取:

(a)小吃页面

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


(b)景点页面

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


(c)标签页面

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


我们将每个城市获取数据的过程封装成函数,每次传入之前获得的城市编码,部分代码如下:

复制编辑

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


数据分析:

PART1:城市数据

首先我们看一下游记数量最多的TOP10城市:

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


游记数量TOP10数量基本上与我们日常所了解的热门城市相符,我们进一步根据各个城市游记数量获得全国旅行目的地热力图:

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


看到这里,是不是有种似曾相识的感觉,如果你在朋友圈晒的足迹图与这幅图很相符,那么说明蚂蜂窝的数据与你不谋而合。

最后我们看一下大家对于各个城市的印象是如何的,方法就是提取标签中的属性,我们将属性分为了休闲、饮食、景点三组,分别看一下每一组属性下大家印象最深的城市:

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


看来对于蚂蜂窝的用户来说,厦门给大家留下的印象是非常深的,不仅游记数量充足,并且能从中提取的有效标签也非常多。重庆、西安、成都也无悬念的给吃货们留下了非常深的印象,部分代码如下:

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


PART2:景点数据

我们提取了各个景点评论数,并与城市游记数量进行对比,分别得到景点评论的绝对值和相对值,并据此计算景点的人气、代表性两个分数,最终排名TOP15的景点如下:

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


蚂蜂窝网友对于厦门真的是情有独钟,鼓浪屿也成为了最具人气的景点,在城市代表性方面西塘古镇和羊卓雍措位列前茅。小长假来临之际,如果担心上排的景点人太多,不妨从下排的景点中挖掘那些人少景美的旅游地。

PART3:小吃数据

最后我们看一下大家最关注的的与吃相关的数据,处理方法与PART2景点数据相似,我们分别看一下最具人气和最具城市代表性的小吃

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


出乎意料,蚂蜂窝网友对厦门果真爱得深沉,让沙茶面得以超过火锅、烤鸭、肉夹馍跻身最具人气的小吃。在城市代表性方面,海鲜的出场频率非常高,这点与大(ben)家(ren)的认知也不谋而合,PART2与3的部分代码如下:

Python爬虫实现数据可视化,为你做一个城市旅游数据分析


猜你喜欢

转载自blog.51cto.com/13719825/2160217