この記事では、ディスクの検索をクロール効果的なリンクのpythonを導入し、この記事では、サンプルコードで非常に詳細にあなたを教えて、参照のために特定の値が、参照の下で必要としている友人を持っている
ディスクの検索はリンクの多くは失敗したがあるがわかったので、探しているデータの効率に影響を与えるので、フィルタアウトする爬虫類との効果的なリンクを、あなたの手を練習する方法を考えます-
これは、その後、パイソンの検索開発者ツールを開くには、まず、http://www.pansou.comクローリングこのウェブサイトの目標です、
JSONは、我々は、このデータリンクの下にクロールしていることをデータで見つけることができ、余分なパラメータは、削除しました
残りのリンク形式http://106.15.195.249:8011/search_new?q=python&p=1,qコンテンツを検索するには、pはページ番号で
、次のは、達成するためのコードです。
import requests
import json
from multiprocessing.dummy import Pool as ThreadPool
from multiprocessing import Queue
import sys
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36"
}
q1 = Queue()
q2 = Queue()
urls = [] # 存取url列表
# 读取url
def get_urls(query):
# 遍历50页
for i in range(1,51):
# 要爬取的url列表，返回值是json数据，q参数是搜索内容，p参数是页码
url = "http://106.15.195.249:8011/search_new?&q=%s&p=%d" % (query,i)
urls.append(url)
# 获取数据
def get_data(url):
print("开始加载，请等待...")
# 获取json数据并把json数据转换为字典
resp = requests.get(url, headers=headers).content.decode("utf-8")
resp = json.loads(resp)
# 如果搜素数据为空就抛出异常停止程序
if resp['list']['data'] == []:
raise Exception
# 遍历每一页数据的长度
for num in range(len(resp['list']['data'])):
# 获取百度云链接
link = resp['list']['data'][num]['link']
# 获取标题
title = resp['list']['data'][num]['title']
# 访问百度云链接，判断如果页面源代码中有“失效时间：”这段话的话就表明链接有效，链接无效的页面是没有这段话的
link_content = requests.get(link, headers=headers).content.decode("utf-8")
if "失效时间：" in link_content:
# 把标题放进队列1
q1.put(title)
# 把链接放进队列2
q2.put(link)
# 写入csv文件
with open("wangpanziyuan.csv", "a+", encoding="utf-8") as file:
file.write(q1.get()+","+q2.get() + "\n")
print("ok")
if __name__ == '__main__':
# 括号内填写搜索内容
get_urls("python")
# 创建线程池
pool = ThreadPool(3)
try:
results = pool.map(get_data, urls)
except Exception as e:
print(e)
pool.close()
pool.join()
print("退出")
概要
上記のリンクは、私たちが手助けをしたいディスクサーチ実装コードをクロール小さなシリーズのpythonを導入することが有効である
あなたに非常に読み感謝
自己のpythonを選択するために、時間の大学を、発見した作業コンピュータの基本的な悪いを食べます赤字は、教育はこれを行うには方法はないではない、唯一補うために取得することができ、その後、整理、基本的なコンピュータ学習のコーディング、継続的な学習のPythonのコア知識、深い知識外の道路で自分のカウンター攻撃を開いて、私は置きます私たちの研究Pythonのバックルqunに：あなたは平凡に不本意であれば250933691、それが外に成長して、コーディングの私と一緒です！
実際には、それよりも技術的な、より技術的なものではないだけであり、例えば、プログラマ自身が高貴な存在である、ああ、それはどのようにではなく、「巨根ワイヤー」よりも、細かなプログラマを作ることではないでしょうか？[参加するためにクリック]、あなたは高貴な人になりたいたいに来て！
