BeautifulSoup find() 和 find_all()

版权声明:可以胡乱转载。 https://blog.csdn.net/hunyxv/article/details/70168065

BeautifulSoup 里的 find() 和 find_all() 可能是你最常用的两个函数。借助它们,你可以通过标签的不同属性轻松地过滤 HTML 页面,查找需要的标签组或单个标签。

这两个函数非常相似,BeautifulSoup 文档里两者的定义就是这样:

find_all(tag, attributes, recursive, text, limit, keywords)
find(tag, attributes, recursive, text, keywords)

很可能你会发现,自己在 95% 的时间里都只需要使用前两个参数: tag 和 attributes 。但是,我们还是应该仔细地观察所有的参数。

  • tag
    标签参数 tag 前面已经介绍过——你可以传一个标签的名称或多个标签名称组成的 Python列表做标签参数。例如,下面的代码将返回一个包含 HTML 文档中所有标题标签的列表:
    .find_all({"h1","h2","h3","h4","h5","h6"})
  • attributes
    属性参数 attributes 是用一个 Python 字典封装一个标签的若干属性和对应的属性值。例如,下面这个函数会返回 HTML 文档里红色与绿色两种颜色的 span 标签:
    .find_all("span", {"class":{"green", "red"}})
  • recursive
    递归参数 recursive 是一个布尔变量。你想抓取 HTML 文档标签结构里多少层的信息?如果recursive 设置为 True , find_all 就会根据你的要求去查找标签参数的所有子标签,以及子标签的子标签。如果 recursive 设置为 False , find_all 就只查找文档的一级标签。 find_all默认是支持递归查找的( recursive 默认值是 True );一般情况下这个参数不需要设置,除非你真正了解自己需要哪些信息,而且抓取速度非常重要,那时你可以设置递归参数。
  • text
    文本参数 text 有点不同,它是用标签的文本内容去匹配,而不是用标签的属性。假如我们想查找前面网页中包含“the prince”内容的标签数量,我们可以把之前的 find_all方法换成下面的代码:
nameList = bsObj.find_all(text="the prince")
print(len(nameList))

输出结果为“7”。

  • limit
    范围限制参数 limit ,显然只用于 find_all 方法。 find 其实等价于 find_all 的 limit 等于1 时的情形。如果你只对网页中获取的前 x 项结果感兴趣,就可以设置它。但是要注意,这个参数设置之后,获得的前几项结果是按照网页上的顺序排序的,未必是你想要的那前几项。
  • keyword
    还有一个关键词参数 keyword ,可以让你选择那些具有指定属性的标签。例如:
allText = bsObj.find_all(id="text")
print(allText[0].get_text())

猜你喜欢

转载自blog.csdn.net/hunyxv/article/details/70168065
今日推荐