- 1
- 0
- 约2.72千字
- 约 24页
- 2026-02-07 发布于陕西
- 举报
Requests库:HTTP请求与响应处理主讲人:杨海迎
Requests库
Requests库它就像Python爬虫的“HTTP通信管家”,用简洁的API就能轻松实现浏览器与服务器的交互,相比内置的urllib库,易用性大幅提升,是静态网页数据抓取的首选。
核心问题Requests库如何安装使用?如何发送GET/POST请求?
核心问题如何处理服务器响应?
Requests库它是Python第三方HTTP请求库,核心优势是“简洁易用、功能强大”,能以极少的代码实现HTTP请求发送、响应处理,完美适配静态网页爬取的需求。Requests库的核心定位打开命令行,输入以下pip命令即可完成安装,无需复杂配置:pipinstallrequests#安装Requests库。安装完成后,在Python代码中只需一行导入,即可调用所有核心功能:importrequests#导入Requests库。安装步骤导入方式小提示:安装时若出现网络问题,可尝试更换国内镜像源(如清华源、阿里云源),确保安装顺利。
GET请求HTTP中常用的请求方式,核心用途是“从服务器获取数据”。比如在浏览器输入网址、点击链接,本质都是发送GET请求。它适合获取静态网页、非敏感查询数据等场景。
核心功能:发送GET请求(获取数据)
POST请求的核心用途“向服务器提交数据”,比如用户登录、注册表单提交、订单提交等场景。与GET请求的关键区别提交的数据不会显示在URL中,而是隐藏在请求体里,更适合传递敏感信息(如密码)。
核心功能:发送GET请求(提交数据)
模拟登录测试服务器模拟提交一个登录请求,PyCharm中来演示使用post()函数发送POST请求。
psot()请求模拟登录核心功能:发送GET请求(提交数据)上述代码先设定一个用于存储登录请求URL地址的变量url,接着定义了包含登录信息的表单数据form_data(包含用户名“test_user”和密码“test_passwd”),并使用requests库的post()函数向该URL发送POST请求,同时提交表单数据。
psot()请求模拟登录核心功能:发送GET请求(提交数据)需要说明的是这里的用户名“test_user”和密码“test_passwd”是虚拟的,实际练习的时候,需使用真实信息。当目标服务器接收到该登录请求后,会返回相关的响应数据,这些数据被存储在response变量中。最后,通过访问response的status_code属性可查看登录请求的响应状态码。
响应处理发送请求后,服务器返回的是Response对象,它包含了HTML内容、状态码、编码等所有响应信息。掌握其常用属性,才能正确提取所需数据。
核心功能:发送GET请求(提交数据)Response对象常用属性status_code属性需结合状态码含义判断请求结果,通常200表示成功,404表示资源不存在,500表示服务器错误。text属性与content属性都可以获取响应内容,text适用于获取文本类内容(如HTML、JSON字符串),但依赖自动编码可能出现乱码,content适用于获取二进制内容(如图片、文件等非文本内容),需根据需求选择,避免用text处理二进制内容。
核心功能:发送GET请求(提交数据)Response对象常用属性Cookies属性存储的Cookie可能包含登录状态等敏感信息,需妥善保管避免泄露,使用时注意Cookie的有效期和作用域,跨域名请求可能无法携带,且需遵守网站Cookie政策。
核心功能:发送GET请求(提交数据)Response对象常用属性
技术规范与合规要求使用Requests库时,这几个要点能帮我们避免错误,同时坚守合规底线:
核心总结:请求精准+响应高效+合规先行坚守“合法、诚信、负责”的原则:不滥用代理IP规避网站规则,不泄露或滥用获取的Cookie等敏感信息,不爬取侵犯知识产权或用户隐私的数据,不发送高频请求给服务器造成压力。一个工具Requests库,安装简单、API直观,是HTTP请求的首选;GET(获取数据)、POST(提交数据),按需选择适配场景;掌握status_code、text、encoding等核心属性,精准提取数据。两类请求一套响应处理实操建议:Requests库尝试请求公开静态网页(如),实操GET请求与响应处理。
深层网络爬虫编码处理text属性依赖自动编码,中文网页易乱码,优先手动设置response.encoding=utf-8;超时设置必须添加timeout参数(建议5-10秒),避免服务器无响应导致程序阻塞;Cookie安全cookies可能包含登录状态等敏感信息,需妥善存储,不泄露、不滥用;
您可能关注的文档
最近下载
- DB51T 1259-2011 月相变化演示器 .docx VIP
- 大学生网络行为道德规范.doc VIP
- 产品形态设计课件.pptx VIP
- 八年级下册 专题. 二次根式【八大题型】(举一反三)(人教版)(解析版)24.docx VIP
- 东北三省三校2026届高三(一模)化学试卷(含答案).pdf
- 钢丝网骨架聚乙烯复合管施工规范:施工流程与质量检验.docx VIP
- DB51_T1016-2010_中小学体育器材架_四川省.docx VIP
- DB51_T700-2007_科学实验台(卓)_四川省.pdf VIP
- 中国铁建股份有限公司公路工程重大事故隐患判定标准图册(2024版).pdf VIP
- 2026年K12培训机构教学质量提升管控方案.pptx
原创力文档

文档评论(0)