Day1:笔记


一.爬虫基本原理
1.什么是爬虫?
爬虫就是爬取数据

2.什么是互联网?
由一堆网络设备,把一台台的计算机互联到一起称之为互联网

3.互联网建立的目的?
数据的传递与数据的共享

4.什么是数据?
例如:电商平台的商品信息(淘宝、京东、亚马逊)、链家、
自如租房平台(房源信息)、股票证券投资信息(东方财富、雪球网)、12306(票务信息)、

5.什么是上网?
普通用户:
打开浏览器---->输入网址
---->往目标主机发送请求
---->返回响应数据
---->把数据渲染到浏览器中

爬虫程序:
模拟浏览器---->往目标主机发送请求
----->返回响应数据
----->解析并提取有价值的数据
----->保存数据(文件写入本地,持久化数据库)

6.爬虫的全过程
①发送请求(请求库:Requests/Selenium)
②获取响应数据
③解析数据(学习解析库:BeautifulSoup4)
④保存数据(存储库:文件保存/MongoDB)

总结:我们可以把互联网中的数据比喻成一座宝藏,爬虫其实就是挖取宝藏

二.requests请求库
1.安装与使用
pip3 install requests

2.模拟浏览器(分析请求流程)
百度:
①请求url
②请求方式(GET,POST)
③响应状态码

猜你喜欢

转载自www.cnblogs.com/Auraro997/p/11119971.html