扫二维码与项目经理沟通
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
这篇文章给大家分享的是有关requests模块怎么用的内容。小编觉得挺实用的,因此分享给大家做个参考。一起跟随小编过来看看吧。
创新互联主营乐陵网站建设的网络公司,主营网站建设方案,手机APP定制开发,乐陵h5小程序定制开发搭建,乐陵网站营销推广欢迎乐陵等地区企业咨询
一、安装
第一步:pip安装
https://pypi.org/project/pip/#files下载pip压缩文件包,最好将其下载到scripts目录下。进入到安装目录下,执行:
python setup.py install
D:\envi\python2.7\Scripts添加到环境变量新打开一个命令行窗口,执行
pip list
第二步:requests安装命令
pip install requests
二、使用:爬取百度网站内容
导入模块
#导入requests模块 import requests
指定url
#1:指定url url='https://www.baidu.com/'
发起请求
#2:发起请求(get方法会返回一个响应对象) response = requests.get(url=url)
获取响应数据
#3:获取响应数据 page_text = response.text
持久化存储
#4:持久化存储 with open('./baidu.html','w',encoding='utf-8') as fp: fp.write(page_text) print('爬完了')
三:requests异常处理
异常:比如网络连接错误、http错误异常、重定向异常、请求url超时异常等等。
处理:可以利用 response.raise_for_status()
语句去捕捉异常,该语句在方法内部判断r.status_code是否等于200,如果不等于,则抛出异常。
爬取网页的通用代码框架:
try: response=requests.get(url) response.raise_for_status() #如果状态不是200,则引发异常 except: print("产生异常")
requests 会自动实现持久连接keep-alive,requests 支持 HTTP 连接保持和连接池,支持使用 cookie 保持会话,支持文件上传,支持自动确定响应内容的编码,支持国际化的 URL 和 POST 数据自动编码,现代、国际化、人性化。
感谢各位的阅读!关于requests模块怎么用就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到吧!
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流