Python爬蟲入門教程 26-100 知乎文章圖片爬取器之二
1. 知乎文章圖片爬取器之二博客背景
昨天寫了知乎文章圖片爬取器的一部分代碼,針對知乎問題的答案json進行了數據抓取,博客中出現了部分寫死的內容,今天把那部分信息調整完畢,並且將圖片下載完善到代碼中去。
首先,需要獲取任意知乎的問題,只需要你輸入問題的ID,就可以獲取相關的頁面信息,比如最重要的合計有多少人回答問題。 問題ID為如下標紅數字 https://www.zhihu.com/question/29024583
編寫代碼,下面的代碼用來檢測用戶輸入的是否是正確的ID,並且通過拼接URL去獲取該問題下面合計有多少答案。
import requests
import re
import pymongo
import time
DATABASE_IP = 127.0.0.1
DATABASE_PORT = 27017
DATABASE_NAME = sun
client = pymongo.MongoClient(DATABASE_IP,DATABASE_PORT)
db = client.sun
db.authenticate("dba", "dba")
collection = db.zhihuone # 準備插入數據
BASE_URL = "https://www.zhihu.com/question/{}"
def get_totle_answers(article_id):
headers = {
"user-agent": "需要自己補全 Mozilla/5.0 (Windows NT 10.0; WOW64)"
}
with requests.Session() as s:
with s.get(BASE_URL.format(article_id),headers=headers,timeout=3) as rep:
html = rep.text
pattern =re.compile( <meta itemProp="answerCount" content="(d*?)"/>)
s = pattern.search(html)
print("查找到{}條數據".format(s.groups()[0]))
return s.groups()[0]
if __name__ == __main__:
# 用死循環判斷用戶輸入的是否是數字
article_id = ""
while not article_id.isdigit():
article_id = input("請輸入文章ID:")
totle = get_totle_answers(article_id)
if int(totle)>0:
zhi = ZhihuOne(article_id,totle)
zhi.run()
else:
print("沒有任何數據!")
完善圖片下載部分,圖片下載地址在查閱過程中發現,存在json欄位的content
中,我們採用簡單的正則表達式將他匹配出來。細節如下圖展示