python爬取百度贴吧Jpg图片

主要实现一个简单的爬虫，从一个百度贴吧页面下载图片。下载图片的步骤如下：

获取网页html文本内容；

分析html中图片的html标签特征，用正则解析出所有的图片url链接列表；

根据图片的url链接列表将图片下载到本地文件夹中。

代码

import requests

import re

# 根据url获取网页html内容

def getHtmlContent(url):

    page = requests.get(url)

    return page.text

# 从html中解析出所有jpg图片的url

# html中jpg图片的url格式为：<img ... src="XXX.jpg" width=...>

def getJPGs(html):

    # 解析jpg图片url的正则

    jpgReg = re.compile(r'<img.+?src="(.+?\.jpg)" width')  # 注：这里最后加一个'width'是为了提高匹配精确度

    # 解析出jpg的url列表

    jpgs = re.findall(jpgReg,html)

    return jpgs

# 用图片url下载图片并保存成制定文件名

def downloadJPG(imgUrl,fileName):

    # 可自动关闭请求和响应的模块

    from contextlib import closing

    with closing(requests.get(imgUrl,stream = True)) as resp:

        with open(fileName,'wb') as f:

            for chunk in resp.iter_content(128):

                f.write(chunk)

# 批量下载图片，默认保存到指定目录文件下

def batchDownloadJPGs(imgUrls,path = 'C:/Users/Administrator/Desktop/picture/'):

    # 用于给图片命名

    count = 1

    for url in imgUrls:

        downloadJPG(url,''.join([path,'{0}.jpg'.format(count)]))

        print("下载中...请稍后...{0}.jpg".format(count))

        count = count + 1

# 封装：从网页下载图片

def download(url):

    html = getHtmlContent(url)

    jpgs = getJPGs(html)

    batchDownloadJPGs(jpgs)

def main():

    url = 'http://tieba.baidu.com/p/2256306796'

    download(url)

    print("================================")

    print("已完成下载...请到指定目录进行查看！！！")

if __name__ == '__main__':

    main()