1 兴趣引入
本文会带领大家了解爬虫是什么,爬虫的基本原理。非常简单,小白也能看懂。如果看不懂就直接躺平算了。(哈哈哈)
爬⾍,从本质上来说,就是利⽤程序在⽹上拿到对我们有价值的数据。
2 基本原理
2.1 浏览器⼯作原理
(1)解析数据: 当服务器把数据响应给浏览器之后,浏览器并不会直接把数据丢给我们。因为这些数据是⽤计算机的语⾔写的,浏览器还要把这些数据翻译成我们能看得懂的内容;
(2)提取数据: 我们就可以在拿到的数据中,挑选出对我们有⽤的数据;
(3)存储数据: 将挑选出来的有⽤数据保存在某⼀⽂件/数据库中。
2.2 爬⾍⼯作原理
(1)获取数据:爬⾍程序会根据我们提供的⽹址,向服务器发起请求,然后返回数据;
(2)解析数据:爬⾍程序会把服务器返回的数据解析成我们能读懂的格式;
(3)提取数据:爬⾍程序再从中提取出我们需要的数据;
(4)储存数据:爬⾍程序把这些有⽤的数据保存起来,便于你⽇后的使⽤和分析。
3 爬虫步骤
下面我们对上图进行详细分析与讲解。
3.1 requests.get()
3.1.1 安装 requests 库
(1) Mac电脑⾥打开终端软件(terminal),输⼊pip3 install requests,然后点击 enter;
(2) Windows电脑⾥叫命令提示符(cmd),输⼊pip install requests 。
提示:往后安装其他库时与上⽅类似,pip install 模块名
3.1.2 requests 库作⽤
requests 库可以帮我们下载⽹⻚源代码、⽂本、图⽚,甚⾄是⾳频。其实,“下 载”本质上是
向服务器发送请求并得到响应。
3.1.3 requests 库使⽤
res = requests.get('URL')
requests.get 是在调⽤requests库中的get()⽅法,它向服务器发送了⼀个请求,括号⾥的参
数是你需要的数据所在的⽹址,然后服务器对请求作出了响应。我们把这个 响应返回的结果
赋值在变量res上。
3.2 Response对象的常⽤属性
3.2.1 response.status_code
打印 response 的响应状态码,以检查请求是否成功。
3.2.2 response.content
把 Response 对象的内容以⼆进制数据的形式返回,适⽤于图⽚、⾳频、视频的下载。
3.2.3 response.text
把 Response 对象的内容以字符串的形式返回,适⽤于⽂字、⽹⻚源代码的下载。
3.2.3 response.encoding
能帮我们定义Response对象的编码。(遇上⽂本的乱码问题,才考虑⽤ res.encoding)
计算机系统及编程语言(底层思维)
4 爬⾍伦理
4.1 Robots 协议
Robots 协议是互联⽹爬⾍的⼀项公认的道德规范,它的全称是“⽹络爬⾍排除标准”(Robots exclusion protocol),这个协议⽤来告诉爬⾍,哪些⻚⾯是可以抓取的,哪些不可以。
4.2 协议查看
(1)在⽹站的域名后加上/robots.txt就可以了。如淘宝的robots协议 ( http://www.taobao.com/robots.txt);
(2)协议⾥最常出现的英⽂是Allow和Disallow,Allow代表可以被访问,Disallow代表禁⽌被访问。
如果对Python爬虫感兴趣的话,可以试试我整理的这份Python全套学习资料
对于0基础小白入门:
如果你是零基础小白,想快速入门Python是可以考虑的。
一方面是学习时间相对较短,学习内容更全面更集中。 二方面是可以找到适合自己的学习方案
包括:Python永久使用安装包、Python web开发,Python爬虫,Python数据分析,人工智能、机器学习等学习教程。带你从零基础系统性的学好Python!
零基础Python学习资源介绍
一、Python所有方向的学习路线
Python所有方向路线就是把Python常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
二、Python学习软件
工欲善其事,必先利其器。学习Python常用的开发软件都在这里了!
三、Python入门学习视频
还有很多适合0基础入门的学习视频,有了这些视频,轻轻松松上手Python~
四、Python练习题
每节视频课后,都有对应的练习题哦,可以检验学习成果哈哈!
五、Python实战案例
光学理论是没用的,要学会跟着一起敲代码,动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。这份资料也包含在内的哈~
六、Python面试资料
我们学会了Python之后,有了技能就可以出去找工作啦!下面这些面试题是都来自阿里、腾讯、字节等一线互联网大厂,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
七、资料领取
上述完整版Python全套学习资料已经上传CSDN官方,需要的小伙伴可自行微信扫描下方CSDN官方认证二维码输入“领取资料”免费领取!!