（四）Beautiful Soup库入门
(1) Beautiful Soup库基本元素
- Beautiful Soup库是解析、遍历、维护“标签树”的功能库
<p class="title">...</p>
<p>..</p> :标签 Tag
p :名称 Name （成对出现）
class='title':属性 Attributes （0个或多个）
- BeautifulSoup对应一个HTML/XML文档的全部内容
from bs4 import BeautifulSoup
soup1 = BeautifulSoup("<html>data</html>","html.parser")
soup2 = BeautifulSoup("open("D://demo.html")","html.parser")
(2) BeautifulSoup库解析器
| 解析器 | 使用方法 | 条件 |
|---|---|---|
| bs4的HTML解析器 | BeautifulSoup(“mk”,“html.parser”) | 安装bs4库 |
| lxml的HTML解析器 | BeautifulSoup(“mk”,“lxml”) | pip install lxml |
| lxml的XML解析器 | BeautifulSoup(“mk”,“xml”) | pip install lxml |
| html5lib的解析器 | BeautifulSoup(“mk”,“html5lib”) | pip install html5lib |
(3) BeautifulSoup类的基本元素
例：<p class="title">...</p>
| 基本元素 | 说明 |
|---|---|
| Tag | 标签，最基本的信息组织单元，用<>和</>标记开头和结尾 |
| Name | 标签的名字， … |
| Attributes | 标签的属性，字典形式组织，格式：.attrs |
| NavigableString | 标签内非属性字符串，<>…</>中字符串，格式：.string |
| Comment | 标签内字符串的注释部分，一种特殊的Comment类型 |
from bs4 import BeautifulSoup
soup = BeautifulSoup(demo,"html.parser")
soup.title #获得标题
soup.a #格式：soup.<tag>，文档中存在多个相同<tag>，只返回第一个
soup.find_all('a') #找到文档中所有的<a>标签
soup.get_text() #从文档中获取所有文字内容
#获取<tag>的名字，格式：<tag>.name，字符串类型
soup.a.name
soup.a.parent.name
soup.a.parent.parent.name
#一个<tag>可以有0或多个属性，字典类型
tag.attrs
tag.attrs['class']
#NavigableString类型可以跨越多个层次
soup.a.string #bs4.element.NavigableString类型
#Comment是一种特殊类型
newsoup = BeautifulSoup("<b><!--This is a comment--></b><p>This is not a comment</p>","html.parser")
newsoup.b.string #bs4.element.Comment类型
newsoup.p.string #bs4.element.NavigableString类型
(4) 基于bs4库的HTML内容遍历方法
1.标签树的下行遍历
- BeautifulSoup类型是标签树的根节点
| 属性 | 说明 |
|---|---|
| .contents | 子节点的列表，将所有儿子节点存入列表 |
| .children | 子节点的迭代类型，与.contents类似，用于循环遍历儿子节点 |
| .descendants | 子孙节点的迭代类型，包含所有子孙节点，用于循环遍历 |
soup = BeautifulSoup(demo, "html.parser")
soup.head #获取head
soup.head.contents #获取head的子节点列表
soup.body.contents #获取body的子节点列表
len(soup.body.contents) #获取body的子节点列表长度
soup.body.contents[1]
#下行遍历儿子节点
for child in soup.body.children:
print(child)
#下行遍历子孙节点
for child in soup.body.descendants:
print(children)
2.标签树的上行遍历
| 属性 | 说明 |
|---|---|
| .parent | 节点的父亲标签 |
| .parents | 节点先辈标签的迭代类型，用于循环遍历先辈节点 |
#遍历所有先辈节点，包括soup本身，所以要区别判断
soup = BeautifulSoup(demo, "html.parser")
for parent in soup.a.parents:
if parent is None:
print(parent)
else:
print(parent.name)
3.标签树的平行遍历
| 属性 | 说明 |
|---|---|
| .next_sibling | 返回按照HTML文本顺序的下一个平行节点标签 |
| .previous_sibling | 返回按照HTML文本顺序的上一个平行节点标签 |
| .next_siblings | 迭代类型，返回按照HTML文本顺序的后续平行节点标签 |
| .previous_siblings | 迭代类型，返回按照HTML文本顺序的前续平行节点标签 |
#遍历后续节点
for sibling in soup.a.next_sibling:
print(sibling)
#遍历前续节点
for sibling in soup.a.previous_sibling:
print(sibling)
(5) 基于bs4库的HTML格式输出
#美化输出
#.prettify()为HTML文本<>及其内容增加了'\n'
soup.prettify()
#.prettify()可用于标签
soup.a.prettify()
节点标签 |
| .previous_sibling | 返回按照HTML文本顺序的上一个平行节点标签 |
| .next_siblings | 迭代类型，返回按照HTML文本顺序的后续平行节点标签 |
| .previous_siblings | 迭代类型，返回按照HTML文本顺序的前续平行节点标签 |
[外链图片转存中…(img-mxfhEfda-1586863050051)]
#遍历后续节点
for sibling in soup.a.next_sibling:
print(sibling)
#遍历前续节点
for sibling in soup.a.previous_sibling:
print(sibling)
(5) 基于bs4库的HTML格式输出
#美化输出
#.prettify()为HTML文本<>及其内容增加了'\n'
soup.prettify()
#.prettify()可用于标签
soup.a.prettify()
- bs4库将任何HTML输入都变成了utf-8编码
