Python使用urlretrieve實現(xiàn)直接遠程下載圖片的示例代碼
在實現(xiàn)爬蟲任務時,經(jīng)常需要將一些圖片下載到本地當中。那么在python中除了通過open()函數(shù),以二進制寫入方式來下載圖片以外,還有什么其他方式嗎?本文將使用urlretrieve實現(xiàn)直接遠程下載圖片。
下面我們再來看看 urllib 模塊提供的 urlretrieve() 函數(shù)。urlretrieve() 方法直接將遠程數(shù)據(jù)下載到本地。
>>> help(urllib.urlretrieve)Help on function urlretrieve in module urllib: urlretrieve(url, filename=None, reporthook=None, data=None)
參數(shù) finename 指定了保存本地路徑(如果參數(shù)未指定,urllib會生成一個臨時文件保存數(shù)據(jù)。)
參數(shù) reporthook 是一個回調(diào)函數(shù),當連接上服務器、以及相應的數(shù)據(jù)塊傳輸完畢時會觸發(fā)該回調(diào),我們可以利用這個回調(diào)函數(shù)來顯示當前的下載進度。
參數(shù) data 指 post 到服務器的數(shù)據(jù),該方法返回一個包含兩個元素的(filename, headers)元組,filename 表示保存到本地的路徑,header 表示服務器的響應頭。
下面通過例子來演示一下這個方法的使用,這個例子將 google 的 html 抓取到本地,保存在 D:/google.html 文件中,同時顯示下載的進度。
import urllibdef cbk(a, b, c): ’’’回調(diào)函數(shù) @a: 已經(jīng)下載的數(shù)據(jù)塊 @b: 數(shù)據(jù)塊的大小 @c: 遠程文件的大小 ’’’ per = 100.0 * a * b / c if per > 100: per = 100 print ’%.2f%%’ % perurl = ’http://www.google.com’local = ’d://google.html’urllib.urlretrieve(url, local, cbk)
代碼實現(xiàn)
在python中除了使用open()函數(shù)實現(xiàn)圖片的下載,還可以通過urllib.request模塊中的urlretrieve實現(xiàn)直接遠程下載圖片的操作。以遠程下載某網(wǎng)頁外設產(chǎn)品圖片為例,代碼如下:
import requestsimport urllib.requestimport os # 系統(tǒng)模塊import shutil # 文件夾控制def download_pictures(url): headers = { 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_6) ' 'AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.129 Safari/537.36'} response = requests.get(url, headers=headers) # 發(fā)送網(wǎng)絡請求 獲取響應 if response.status_code == 200: # 判斷請求是否成功 # print(response.json()) # 每次獲取數(shù)據(jù)之前,先將保存圖片的文件夾清空 在創(chuàng)建目錄 if os.path.exists('img_download'): # 判斷文件夾是否存在 shutil.rmtree('img_download') # 存在則刪除 os.makedirs('img_download') # 重新創(chuàng)建 else: os.makedirs('img_download') # 不存在 直接創(chuàng)建 content = response.json()['products'] # 獲取響應內(nèi)容 print(content) for index, item in enumerate(content): # 圖片地址 img_path = 'http://img13.360buyimg.com/n1/s320x320_' + item['imgPath'] # print(item['imgPath']) # 根據(jù)下標命名圖片名稱 urllib.request.urlretrieve(img_path, 'img_download/' + 'img' + str(index) + '.jpg') else: print('請求失敗')if __name__ == ’__main__’: download_pictures('https://ch.jd.com/hotsale2?cateid=686')
運行結(jié)果如下圖所示:
到此這篇關(guān)于Python使用urlretrieve實現(xiàn)直接遠程下載圖片的示例代碼的文章就介紹到這了,更多相關(guān)Python urlretrieve遠程下載內(nèi)容請搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!
相關(guān)文章:
1. js select支持手動輸入功能實現(xiàn)代碼2. PHP橋接模式Bridge Pattern的優(yōu)點與實現(xiàn)過程3. asp.net core項目授權(quán)流程詳解4. html中的form不提交(排除)某些input 原創(chuàng)5. CSS3中Transition屬性詳解以及示例分享6. bootstrap select2 動態(tài)從后臺Ajax動態(tài)獲取數(shù)據(jù)的代碼7. vue使用moment如何將時間戳轉(zhuǎn)為標準日期時間格式8. 開發(fā)效率翻倍的Web API使用技巧9. jsp文件下載功能實現(xiàn)代碼10. ASP常用日期格式化函數(shù) FormatDate()
