提取 网页内容 四大基本方法之
3.xpath提取网页内容 selector模块
XML 节点选择
| 表达式 |
描述 |
| nodename |
选取此节点的所有子节点。 |
| / |
从根节点选取。 |
| // |
从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。 |
| . |
选取当前节点。 |
| .. |
选取当前节点的父节点。 |
| @ |
选取属性。 |
| bookstore |
选取 bookstore 元素的所有子节点。 |
| /bookstore |
选取根元素 bookstore。 |
| bookstore/book |
选取属于 bookstore 的子元素的所有 book 元素。 |
| //book |
选取所有 book 子元素，而不管它们在文档中的位置。 |
| bookstore//book |
选择属于 bookstore 元素的后代的所有 book 元素，而不管它们位于 bookstore 之下的什么位置。 |
| //@lang |
选取名为 lang 的所有属性。 |
| 谓语路径表达式 |
结果： |
| /bookstore/book[1] |
选取属于 bookstore 子元素的第一个 book 元素。 |
| /bookstore/book[last()] |
选取属于 bookstore 子元素的最后一个 book 元素。 |
| /bookstore/book[last()-1] |
选取属于 bookstore 子元素的倒数第二个 book 元素。 |
| /bookstore/book[position()❤️] |
选取最前面的两个属于 bookstore 元素的子元素的 book 元素。 |
| //title[@lang] |
选取所有拥有名为 lang 的属性的 title 元素。 |
| //title[@lang=‘eng’] |
选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。 |
| /bookstore/book[price>35.00] |
选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。 |
| /bookstore/book[price>35.00]/title |
选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。 |
| 通配符 |
描述 |
| * |
匹配任何元素节点。 |
| @* |
匹配任何属性节点。 |
| node() |
匹配任何类型的节点。 |
| /bookstore/* |
选取 bookstore 元素的所有子元素。 |
| //* |
选取文档中的所有元素。 |
| //title[@*] |
选取所有带有属性的 title 元素。 |
| 选取若干路径 表达式 |
结果 |
| //book/title | //book/price |
选取 book 元素的所有 title 和 price 元素。 |
| //title | //price |
选取文档中的所有 title 和 price 元素。 |
| /bookstore/book/title | //price |
选取属于 bookstore 元素的 book 元素的所有 title 元素，以及文档中所有的 price 元素。 |
例：
准备要提取的内容
html='''
<?xml version="1.0" encoding="UTF-8"?>
<bookstore>
<book>
<title lang="eng1">Harry Potter</title>
<price>29.99</price>
<div>
<book>123456</book>
</div>
</book>
<book>
<title lang="eng2">Learning XML</title>
<price>39.95</price>
</book>
<book>3333333333333333</book>
<book>4444444444444444</book>
</bookstore>
'''
1.转换成对象，
提取所有book标签
from scrapy.selector import Selector
selector = Selector(text=html) #转换成一个对象
print(selector) #自动添加\<html>\<body>标签
#
print(selector.xpath('//book'))
2.获取第二个book标签
print(selector.xpath('//book')[1])
print(selector.xpath('//book[1]')[1])
print(1,selector.xpath('//div')[0].xpath('./book[1]'))
print(2,selector.xpath('//div')[0].xpath('./book[1]')[0])
print(3,selector.xpath('//div')[0].xpath('./book'))
print(4,selector.xpath('//div')[0].xpath('book'))
print(5,selector.xpath('//div')[0].xpath('book')[0])
3. @表示的是某某标签内的属性（<p @>）
print(selector.xpath('//@lang'))
#指定属性
print(selector.xpath('//title[@lang="eng2"]'))
/的使用（绝对路径）
print(selector.xpath('/html/body/bookstore/book/div/book'))
bookstort = selector.xpath('//bookstore')[0]
print(bookstort.xpath('./book/div/book'))
选取最后一个book和倒数第二个book,输出前三个book
print(bookstort.xpath('./book[last()]'))
print(bookstort.xpath('./book[last()-1]'))
#输出前三个(选择相应的位置)
print(bookstort.xpath('./book[position()<4]'))
有纯数字可以按条件选择
print(bookstort.xpath('./book[price>35]'))
选取多个标签
print(bookstort.xpath('//title|//price'))