人工智能采集和分析基础（Python版）课件 学习单元三 Requests网页访问.pptx

任务1Requests数据采集

任务2BeautifulSoup文本解析;任务1Requests数据采集;本次任务基于Requests库实现豆瓣电影排行信息的爬取，其中包含与HTTP请求相关的内容、Requests的安装和使用、爬虫的实现、Requests实现爬虫、爬取信息JSON化等内容。本次任务的主要内容如下：

(1)安装Requests，成功调用Requests库。

(2)分析豆瓣电影信息网站。

(3)编写代码，爬取信息。

(4)将爬取的信息JSON化，并输出。

;一、网络请求

网络请求是客户端和服务器端进行数据交换的一种手段。通过网络请求，客户端可以从服务器端获取需要的数据，也可以在收到请求后返回数据。网络请求过程如图3-1所示。

客户端要获取某些信息，会通过网络向服务器端发送一个请求，服务器端会对请求进行拆解，并通过自己的存储空间或者数据库搜索数据，然后将数据返回到客户端。;1.?HTTP请求

HTTP请求是指从客户端到服务器端的请求消息，包括消息首行中、对资源的请求方法、资源的标识符及使用的协议。只有通过HTTP才能实现网络请求。HTTP还规定了请求的数据格式、请求的头部、采用的协议等内容。HTTP请求都是通过URL发起的。URL的形式如图3-2所示。;每访问一次，URL就进行一次网络请求，每进行一次网络请求，服务器端对应会收到一个网络响应。例如，访问百度网的地址/，打开浏览器，在地址栏输入地址，按鼠标右键选择“检查”，对地址按下回车键，浏览器开发者工具的“Network”栏中会产生一个网络请求，如图3-3所示。;每一个网络请求都有Name、Status、Type、Initiator、Size、Time、Waterfall等属性。属性说明如表3-1所示。;2.请求和响应

请求是指从客户端到服务器端的请求消息。一个完整的HTTP请求可以分为三个部分：请求行、请求头、请求体。请求结构如图3-4所示。;请求行中包含请求的方法、请求的URL、协议版本及换行符号(CRLF)；请求头中包含多组键值对的数据和换行符号；请求体当中包含请求的主体。

响应是指服务端对客户端请求的回应。一个完整的响应同样包含三个部分，分别是状态码、响应头和响应体。

响应头中包含服务器的应答信息，即Content-Type、Data、Expires等内容。??个响应最重要的内容就是响应体，响应的正文数据、文件、图片等信息都称为响应体。例如，请求一个地址时，通过浏览器中的“Preview”就可以查看响应体的内容。访问百度网的响应信息如图3-5所示。;二、爬虫基础

爬虫是获取网页并提取和保存信息的自动化程序。如果将互联网比作一张蜘蛛网，爬虫就是在网上爬行的蜘蛛，网上的每一个节点都可以当作一个网页，蜘蛛爬到每一个节点就相当于访问了网页，而每一个节点又连着许多节点，这些节点就可以当作网页内的链接，因此爬虫可以访问所有的节点。爬虫的架构如图3-6所示。;爬虫调度器开启后，爬虫会指定一个链接(URL)，爬虫使用这个链接请求对应的资源，对页面进行下载，下载后对网页进行解析，网页中包含的URL会继续解析，直到解析完所有的URL就完成了一次爬取。整个爬取过程可以分为三个步骤，分别是爬取数据、提取信息以及保存数据。

(1)每个爬虫程序都有若干个请求和响应，响应的内容是网页的源代码。

(2)获取到网页的源代码后，需要提取源代码中有价值的信息。

(3)最后一步就是将提取到的数据保存下来，以便于进行数据分析和处理。;三、Requests简介及安装

Requests是唯一一个非转基因的PythonHTTP库。在Requests之前，PythonHTTP库就出现过urllib库，但是由于urllib存在安全缺陷以及代码冗余等，现在已经很少使用。Requests库建立在urllib之上，它解决了urllib存在的问题，而且允许用户发送原始的HTTP1.1版本的请求。Requests的图标如图3-7所示。;Requests的安装简单，可使用pip命令安装。代码如下所示。

安装完成后，使用import引入Requests库，调用Requests的get()方法向发送请求，代码如下所示。

结果如图3-8所示。;四、Requests的基础使用

Requests爬虫是利用Requests技术实现爬取网页内容的一种功能，但是在实现Requests爬虫之前需要了解更多的Requests技术，否则会在实现Requests爬虫的过程中遇到诸多问题。

Requests可以使用get()方法和post()方法发送请求，除发起请求的方式不同外，get()和post()的参数和使用方法都相同。

下面以get()方法为例，介绍如何使用Requests向URL发起请求。reques