python 爬取网页照片!全代码!指定数量,指定目录,爬取过程详细!

作者:untilyouydc
原文:https://blog.csdn.net/qq_40774175/article/details/81273198
原博主解释比较详细,有些知识还附带上了链接解释。类似正则表达式,之类的!

前言,爬取照片的前提条件:

1. 保证默认浏览器打开!
2. 保证网络畅通! 保证网络畅通!

正则表达式:http://www.runoob.com/python/python-reg-expressions.html
准备:
需要安装一些函数依赖关系!

pip install BeautifulSoup  
pip install requests
pip install  lxml 

CMD控制台就可以安装!
在这里插入图片描述

源代码:

import re
import requests
from urllib import error
from bs4 import BeautifulSoup
import os
 
num = 0
numPicture = 0
file = ''
List = []
 
 
def Find(url):
    global List
    print('正在检测图片总数,请稍等.....')
    t = 0
    i = 1
    s = 0
    while t < 10000:
        Url = url + str(t) + '&gsm=8c'
        try:
            Result = requests.get(Url, timeout=7)
        except BaseException:
            t = t+60
            continue
        else:
            result = Result.text
            pic_url = re.findall('"objURL":"(.*?)",', result, re.S)  # 先利用正则表达式找到图片url
            s += len(pic_url)
            if len(pic_url) == 0:
                break
            else:
                List.append(pic_url)
                t = t + 60
    return s
 
 
def recommend(url):
    Re = []
    try:
        html = requests.get(url)
    except error.HTTPError as e:
        return
    else:
        html.encoding = 'utf-8'
        bsObj = BeautifulSoup(html.text, 'html.parser')
        div = bsObj.find('div', id='topRS')
        if div is not None:
            listA = div.findAll('a')
            for i in listA:
                if i is not None:
                    Re.append(i.get_text())
        return Re
 
 
def dowmloadPicture(html, keyword):
    global num
    pic_url = re.findall('"objURL":"(.*?)",', html, re.S)  # 先利用正则表达式找到图片url
    print('找到关键词:' + keyword + '的图片,即将开始下载图片...')
    for each in pic_url:
        print('正在下载第' + str(num + 1) + '张图片,图片地址:' + str(each))
        try:
            if each is not None:
                pic = requests.get(each, timeout=7)
            else:
                continue
        except BaseException:
            print('错误,当前图片无法下载')
            continue
        else:
            string = file + r'\\' + keyword + '_' + str(num) + '.jpg'
            fp = open(string, 'wb')
            fp.write(pic.content)
            fp.close()
            num += 1
        if num >= numPicture:
            return
 
 
if __name__ == '__main__':  # 主函数入口
    word = input("请输入搜索关键词(可以是人名,地名等): ")
    url = 'http://image.baidu.com/search/flip?tn=baiduimage&ie=utf-8&word='+word+'&ct=201326592&v=flip'
    tot = Find(url)
    Recommend = recommend(url)  # 记录相关推荐
    print('经过检测%s类图片共有%d张' % (word, tot))
    numPicture = int(input('请输入想要下载的图片数量 '))
    file = input('请建立一个存储图片的文件夹,输入文件夹名称即可')
    y = os.path.exists(file)
    if y == 1:
        print('该文件已存在,请重新输入')
        file = input('请建立一个存储图片的文件夹,输入文件夹名称即可')
        os.mkdir(file)
    else:
        os.mkdir(file)
    t = 0
    while t < numPicture:
        try:
            url = url + str(t) + '&gsm=8c'
            result = requests.get(url, timeout=10)
        except error.HTTPError as e:
            print('网络错误,请调整网络后重试')
        else:
            dowmloadPicture(result.text, word)
        finally:
            t = t+60
    print('当前搜索结束,感谢使用')
    print('猜你喜欢')
    for re in Recommend:
        print(re, end='  ')

在这里插入图片描述这里我修改了一些数量,原文无论检测到多少,都会告诉你有1020张。我这里变成2000。就成为2040啦。翻了一倍!
接下来创建目录:

在这里插入图片描述

在这里插入图片描述
如果不指定保存盘符,则会默认跑到python的安装路径之下!
一开始,我也不知道。还是自己通过CMD命令查找的!

:for /r %i in (*.jpg) do @echo %i
在这里插入图片描述找到之后,复制路径。直接打开,就可以看到这个“999”文件夹啦!
在这里插入图片描述在这里插入图片描述还有个猜你喜欢,真滴皮!哈哈~
OK!

猜你喜欢

转载自blog.csdn.net/weixin_42859280/article/details/84189445
今日推荐