路飞学成-Python爬虫实战密训-第1章

1，本节学习体会、心得 ：

　　经过几个月的努力学完了django。因此才选择了这个爬虫课程。经过第一章的学习，再次体会到了python的强大。之前一直为正则发愁，每次都要修改好几次，才能匹配到。严重影响效率。然而，在这节中学到了新的技能 beautifulsoup4模块。用起来太爽了，简直就像是在写jquery 。大大提高了匹配的效率。

武老师讲的非常通俗易懂，但是如果只听的话，过后就忘了。在去写已经学过的代码，仍然不知道怎么写。但是照着笔记，举一反三的去爬取几个站之后。再来写的话就可以抛弃笔记了。哈哈 ，也算是一点小心得了。

2，本节的知识点总结:

　　一、爬虫入门

　　安装requests模块 ：pip3 install requests  

　　安装bs4 模块 ：pip3 install beautifulstoup4 

　　导入request模块： import requests

　　导入bs4模块 ：from  bst import BeautifulSoup 　　　

 1 import requests
 2 from  bst import BeautifulSoup
 3 
 4 # 通过get方式获取要爬取的页面的内容 
 5 ret = requests.get(url='https://www.autohome.com.cn/news/')
 6 
 7 # 给获取到的内容设置编码  （apparent_encoding 获取当前内容的编码）
 8 ret.encoding = ret.apparent_encoding
 9 　
10 # 用beautifulsoup模块解析 获取到的内容
11 soup = ret.Beautifulsoup(ret.text,'html.parser')  #html.parser 是解析的方式
12 　
13 # find 找第一个对象  find_all 找到所有的对象 返回一个对象列表
14 div = soup.find(name='div',id="auto-channel-lazyload-article")
15 
16 # 获取所有的li标签对象 find_all
17 list = div.find_all(name='li')
18 #遍历list对象列表 打印出每个li下的h3标签里的内容 a标签的href属性值  p标签的内容
19 for i in list:
20 　　h3 = i.find(name='h3')
21 　　a = i.find(name='a')
22 　　try:  #由于h3的可能会是空 print会报错 这里可以用if判断跳出循环 这里我用try不让它报错
23 　　　　print(h3.text,a.get('href'))
24 　　　　print(i.find('p').text)
25 　　except:
26 　　　　pass  
27 　

入门知识到此结束 

----------- end  --------------