1.はほとんど背景の制御を取るために2枚のブログの記事の写真を登る知っています
昨日はほとんどコードクローラの一部の記事の絵を書いて知っている、ほとんどの質問のJSONへの答えを知っているクロールされた、ブログのコンテンツは死者を書くための部分に表示され、情報の一部は、今日の調整が完了し、画像完璧なダウンロードされていることコードへ。
まず、あなたは、ほぼすべての問題を知ってもらう必要がある、あなたはIDの問題を入力するだけで済み、あなたは、このような質問に答える人の合計数の最も重要なものとして、関連ページの情報を取得することができます。
標準の赤を次のように問題のID番号は、
コードを記述し、次のコードは、ユーザー入力が正しいID、および以下の質問に対する回答のステッチ総数を介して取得するためのURLであるかどうかを検出するために使用されます。
在学习过程中有什么不懂得可以加我的
python学习交流扣扣qun,784758214
群里有不错的学习视频教程、开发工具与电子书籍。
与你分享python企业当下人才需求及怎么从零基础学习好python,和学习什么内容
import requests
import re
import pymongo
import time
DATABASE_IP = '127.0.0.1'
DATABASE_PORT = 27017
DATABASE_NAME = 'sun'
client = pymongo.MongoClient(DATABASE_IP,DATABASE_PORT)
db = client.sun
db.authenticate("dba", "dba")
collection = db.zhihuone # 准备插入数据
BASE_URL = "https://www.zhihu.com/question/{}"
def get_totle_answers(article_id):
headers = {
"user-agent": "需要自己补全 Mozilla/5.0 (Windows NT 10.0; WOW64)"
}
with requests.Session() as s:
with s.get(BASE_URL.format(article_id),headers=headers,timeout=3) as rep:
html = rep.text
pattern =re.compile( '<meta itemProp="answerCount" content="(\d*?)"/>')
s = pattern.search(html)
print("查找到{}条数据".format(s.groups()[0]))
return s.groups()[0]
if __name__ == '__main__':
# 用死循环判断用户输入的是否是数字
article_id = ""
while not article_id.isdigit():
article_id = input("请输入文章ID:")
totle = get_totle_answers(article_id)
if int(totle)>0:
zhi = ZhihuOne(article_id,totle)
zhi.run()
else:
print("没有任何数据!")
完璧な画像のダウンロードセクション、画像がレビュープロセスをダウンロードJSONフィールドがあることが判明しcontent
、我々は彼を一致させるための単純な正規表現を使用しています。次の図に示すにおける詳細
バーコーディングは、次のコードのコメントは、小さなバグの真ん中を読む、手動でこの場所PIC2 PIC3を変更する必要がありますが、現在は明確な理由はありません、私のローカルネットワーク理由かもしれないだけでなく、ルートディレクトリにプロジェクトを作成してくださいimgs
画像を保存するフォルダ
def download_img(self,data):
## 下载图片
for item in data["data"]:
content = item["content"]
pattern = re.compile('<noscript>(.*?)</noscript>')
imgs = pattern.findall(content)
if len(imgs) > 0:
for img in imgs:
match = re.search('<img src="(.*?)"', img)
download = match.groups()[0]
download = download.replace("pic3", "pic2") # 小BUG,pic3的下载不到
print("正在下载{}".format(download), end="")
try:
with requests.Session() as s:
with s.get(download) as img_down:
# 获取文件名称
file = download[download.rindex("/") + 1:]
content = img_down.content
with open("imgs/{}".format(file), "wb+") as f: # 这个地方进行了硬编码
f.write(content)
print("图片下载完成", end="\n")
except Exception as e:
print(e.args)
else:
pass
あなたがプログラミングの世界ではまだ混乱している場合は、Pythonのバックルqun学ぶために私たちに参加することができます:784758214を、高齢者が学んでいる方法を見て。経験の交換。基本的なWeb開発Pythonスクリプトから、爬虫類、ジャンゴ、データマイニングや他のプロジェクトへのゼロベースのデータを戦うために仕上げています。どんな小さなPythonのパートナーに与えられました!いくつかの学習方法を共有し、細部に注意を払う必要があり、私たちに参加をクリックしてPythonの学習者の集い
実行結果
そして、ほとんどのプロセスでプレーを知って、私は良い多くの質問を見つけました