国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術文章
文章詳情頁

Python grequests模塊使用場景及代碼實例

瀏覽:35日期:2022-07-14 15:21:30

使用場景:

1) 爬蟲設置ip代理池時驗證ip是否有效

2)進行壓測時,進行批量請求等等場景

grequests 利用 requests和gevent庫,做了一個簡單封裝,使用起來非常方便。

grequests.map(requests, stream=False, size=None, exception_handler=None, gtimeout=None)

Python grequests模塊使用場景及代碼實例

另外,由于grequests底層使用的是requests,因此它支持

GET,OPTIONS, HEAD, POST, PUT, DELETE 等各種http method

所以以下的任務請求都是支持的

grequests.post(url, json={“name”:“zhangsan”})grequests.delete(url)

代碼如下:

import grequestsurls = [ ’http://www.baidu.com’, ’http://www.qq.com’, ’http://www.163.com’, ’http://www.zhihu.com’, ’http://www.toutiao.com’, ’http://www.douban.com’]rs = (grequests.get(u) for u in urls)print(grequests.map(rs)) # [<Response [200]>, None, <Response [200]>, None, None, <Response [418]>]def exception_handler(request, exception): print('Request failed')reqs = [ grequests.get(’http://httpbin.org/delay/1’, timeout=0.001), grequests.get(’http://fakedomain/’), grequests.get(’http://httpbin.org/status/500’)]print(grequests.map(reqs, exception_handler=exception_handler))

實際操作中,也可以自定義返回的結果

修改grequests源碼文件:

例如:

新增extract_item() 函數合修改map()函數

def extract_item(request): ''' 提取request的內容 :param request: :return: ''' item = dict() item['url'] = request.url item['text'] = request.response.text or '' item['status_code'] = request.response.status_code or 0 return itemdef map(requests, stream=False, size=None, exception_handler=None, gtimeout=None): '''Concurrently converts a list of Requests to Responses. :param requests: a collection of Request objects. :param stream: If True, the content will not be downloaded immediately. :param size: Specifies the number of requests to make at a time. If None, no throttling occurs. :param exception_handler: Callback function, called when exception occured. Params: Request, Exception :param gtimeout: Gevent joinall timeout in seconds. (Note: unrelated to requests timeout) ''' requests = list(requests) pool = Pool(size) if size else None jobs = [send(r, pool, stream=stream) for r in requests] gevent.joinall(jobs, timeout=gtimeout) ret = [] for request in requests: if request.response is not None: ret.append(extract_item(request)) elif exception_handler and hasattr(request, ’exception’): ret.append(exception_handler(request, request.exception)) else: ret.append(None) yield ret

可以直接調用:

import grequestsurls = [ ’http://www.baidu.com’, ’http://www.qq.com’, ’http://www.163.com’, ’http://www.zhihu.com’, ’http://www.toutiao.com’, ’http://www.douban.com’]rs = (grequests.get(u) for u in urls)response_list = grequests.map(rs, gtimeout=10)for response in next(response_list): print(response)

支持事件鉤子

def print_url(r, *args, **kwargs):print(r.url)url = “http://www.baidu.com”res = requests.get(url, hooks={“response”: print_url})tasks = []req = grequests.get(url, callback=print_url)tasks.append(req)ress = grequests.map(tasks)print(ress)

Python grequests模塊使用場景及代碼實例

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 国产综合在线视频 | 国产a级午夜毛片 | 狠狠88综合久久久久综合网 | 亚洲成人免费视频 | 日本美女视频韩国视频网站免费 | 欧美高清性刺激毛片 | 欧美二级在线观看免费 | 欧美在线做爰高清视频 | 亚洲一级香蕉视频 | 普通话对白国产情侣自啪 | 久久国内免费视频 | 欧美日韩在线观看免费 | 亚洲精品国产福利片 | 在线观看国产一区二三区 | 色老头老太做爰视频在线观看 | 中文字幕福利视频 | 久章草在线 | 久久精品视频大全 | 国产成人午夜性视频影院 | 亚洲国产欧美国产综合一区 | 久久久99精品免费观看 | 国产欧美在线不卡 | 欧美精品亚洲人成在线观看 | 久久人视频 | 欧美成人精品三级网站 | 亚洲高清视频在线观看 | 久久精品国产6699国产精 | 玖玖香蕉视频 | 精品72久久久久久久中文字幕 | 欧美久在线观看在线观看 | 亚洲成人在线播放视频 | 免费一区二区三区视频狠狠 | 国内精品久久久久久影院8f | 99免费精品视频 | 国产成人免费手机在线观看视频 | 亚洲男人的天堂在线观看 | 国产乱淫视频 | 午夜手机福利 | jizjizjiz亚洲人 | 成在线人免费视频 | 欧美一级毛片高清毛片 |