国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術文章
文章詳情頁

Python爬蟲防封ip的一些技巧

瀏覽:62日期:2022-07-14 18:18:34

在編寫爬蟲爬取數據的時候,因為很多網站都有反爬蟲措施,所以很容易被封IP,就不能繼續爬了。在爬取大數據量的數據時更是瑟瑟發抖,時刻擔心著下一秒IP可能就被封了。

本文就如何解決這個問題總結出一些應對措施,這些措施可以單獨使用,也可以同時使用,效果更好。

偽造User-Agent

在請求頭中把User-Agent設置成瀏覽器中的User-Agent,來偽造瀏覽器訪問。比如:

headers ={’User-Agent’:’Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/52.0.2743.116 Safari/537.36’} resp = requests.get(url,headers = headers)

還可以先收集多種瀏覽器的User-Agent,每次發起請求時隨機從中選一個使用,可以進一步提高安全性:

Python爬蟲防封ip的一些技巧

把上面隨機選擇一個User-Agent的代碼封裝成一個函數:

Python爬蟲防封ip的一些技巧

在每次重復爬取之間設置一個隨機時間間隔

比如:

time.sleep(random.randint(0,3)) # 暫停0~3秒的整數秒,時間區間:[0,3]

或:

time.sleep(random.random()) # 暫停0~1秒,時間區間:[0,1)

偽造cookies

若從瀏覽器中可以正常訪問一個頁面,則可以將瀏覽器中的cookies復制過來使用,比如:

Python爬蟲防封ip的一些技巧

注:用瀏覽器cookies發起請求后,如果請求頻率過于頻繁仍會被封IP,這時可以在瀏覽器上進行相應的手工驗證(比如點擊驗證圖片等),然后就可以繼續正常使用該cookies發起請求。

使用代理

可以換著用多個代理IP來進行訪問,防止同一個IP發起過多請求而被封IP,比如:

附:GitHub上的一個'反反爬蟲'項目

道高一尺魔高一丈,你有反爬蟲措施,那我也有各種'反反爬蟲'的措施,GitHub上就有一位大神專門整理了一個這樣的項目:Anti-Anti-Spider,鏈接地址為:github.com/luyishisi/An可以研究一下。

以上就是Python爬蟲防封ip的一些技巧的詳細內容,更多關于Python爬蟲防封ip的資料請關注好吧啦網其它相關文章!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 经典香港a毛片免费观看 | 欧美三区在线观看 | 国产成人久久精品麻豆二区 | 国产精品1页 | 久久精品免费观看国产软件 | 国产成人一级片 | 欧洲免费无线码二区5 | 国产欧美综合在线一区二区三区 | 男人扒开双腿女人爽视频免费 | 成年网站在线在免费播放 | 日本理论在线播放 | 欧美激情第一欧美在线 | 国产自线一二三四2021 | 丝袜一级片 | 日韩精品视频在线 | 韩国精品一区二区三区在线观看 | 欧美亚洲一区二区三区在线 | 国产黄色小视频在线观看 | 国产99视频精品免费视频免里 | 国产美女视频网站 | 日韩视频在线观看一区二区 | 欧美一级黄视频 | 波多野结衣在线观看一区二区 | 亚洲成人在线播放视频 | 日本一级特黄毛片高清视频 | 国产99视频免费精品是看6 | 国产精品blacked在线 | 国产三级成人 | 九九香蕉 | 337p欧美| 久久综合日韩亚洲精品色 | 亚洲精品欧洲一区二区三区 | 91一区二区在线观看精品 | 精品久久久久久无码中文字幕 | 国产网站免费视频 | 另类女最新视频 | 日本美女高清在线观看免费 | 久久久亚洲欧美综合 | 亚洲丝袜另类 | 久久国产成人精品 | 毛片免费观看的视频 |