scrapy 中selector对象提取数据。

1,创建对象

Selector类的实现位于scrapy.selector模块,创建Selector对象时,可以将页面的HTML文档字符传递给Selector对象的构造方法的text参数或者直接传递页面response对象参数也行。
例如:
from scrapy.selector import Selector
# 方法一、 
text ="<html>.........</html>"
selector = Selector(text=text)
# 方法二、`在这里插入代码片`
# response是页面响应对象。
selector = Selector(response=response)

2,数据选择

Selector 对象有xpath方法和css方法,xpath和css 返回值都是SelectorList(列表可迭代)对象。
例如:
# xpth提取数据
selector.xpath("//h1")
# css 提取数据
selector.css("#id")

3,数据提取

Selector 对象和SelectorList对象都有以下几种方法。
extract()     返回选中内容的Unicode字符串
re()           正则提取
extract_first()(SelectorList独有)   返回列表中的第一个元素内容
re_first()(SelectorList独有)         返回列表中的第一个元素内容

4,scrapy框架内置对象

在response对象中内置的有selector,因此,在开发中我们一般不需要手动创建Selector对象(有兴趣可以看看框架源码),为了用户方便,还提供了了xpath方法和css方法(内部实现其实就是创建Selector对象,调用相应的xpath方法或者css方法)(有兴趣的话,可以看看框架源码)。
例如:
response.xpath("//div")
response.css("#id")

5,xpath选择数据和css选择数据

对于此我就不再一一说明了。

猜你喜欢

转载自blog.csdn.net/MZP_man/article/details/92570961