Scrapy——Item Pipeline

当Item在Spider中被收集之后，它将会被传递到Item Pipeline，一些组件会按照一定的顺序执行Item的处理。
每个item pipeline组件是实现了简单方法的Python类。他们接收到Item并通过它执行了一些行为ie，同时也决定了此Item是否继续通过pipeline，或是被丢弃而不再进行一些处理。
以下是item pipeline的一些典型应用：

清理HTML数据
验证爬取的数据
查重
将爬取结果保存到数据库

编写你自己的Item pipeline

每个item pipeline组件是一个独立的Python类，同时必须实现以下的方法：

process_item(item,spider)

每个item pipeline组件都需要调用该方法，这个方法必须返回一个Item对象，或是抛出DropItem异常，被丢弃的item将不会被之后的pipeline组件所处理。

item-被爬取的item；
spider-爬取该item的spider；

open_spider(spider)

当spider被开启时，这个方法被调用。
spider-被开启的spider。

close_spider(spider)

当spider被关闭时，这个方法被调用
spider-被关闭的spider

Item pipeline样例

验证价格，同时丢弃没有价格的item

from scrapy.exceptions import DropItem

class PricePipeline(object):

    vat_factor=1.15
    def process_item(self,item,spider):
        if item['price']:
            if item['price_excludes_vat']:
                item['price']=item['price'] *self.vat_factor
            return item
        else:
            raise DropItem("Missing price in %s" %item)

将item写入JSON文件

以下pipeline将所有爬取到的item，存储到一个独立的item.jl文件，每行包含一个序列化为JSON格式的item：


import json

class JsonWritePipeline(object):

    def __init__(self):
        self.file=open('items.jl','wb')

    def process_item(self,item,spider):

        line=json.dumps(dict(item)) + "\n"
        self.file.write(line)
        return item

去重

一个用于去重的过滤器，丢弃那些已经被处理过的item。假设我们的item有一个唯一的id，但是spider返回的多个item中包含于相同的id：

from scrapy.exceptions import DropItem

class DuplicatesPipeline(object):
    
    def __init__(self):
        self.ids_seen=set()
        
    def process_item(self,item,spider):
        if item['id'] in self.ids_seen:
            raise DropItem("Duplicate item found:%s" %item)
        
        else:
            self.ids_seen.add(item['id'])
            return item

启用一个Item Pipeline组件

为了启用一个Item Pipeline组件，你必须将它的类添加到ITEM_PIPELINES配置。

ITEM_PIPELINES={
	'myproject.pipelines.PricePipeline':300,
	'myproject.pipelines.JsonWriterPipeline':800,
}

分配给每个类的整形值，确定了它们运行的顺序，item按数字从低到高的顺序，通过pipeline，通常将这些数字定义在0-1000范围内。