第五章《数据处理和可视化表达》第2课时《数据的采集》课件粤教版高中信息技术必修1.pptx

课程导入项目：典型城市空气质量变化研究认识大数据数据的分析数据的采集数据的可视化表达1

粤教版信息技术必修1《数据与计算》2

什么是数据采集3

什么是数据采集数据采集是利用一种装置，从系统外部采集数据并输入到系统内部的一个接口。（百度百科）数据采集是指根据需求采用适当的方法和工具获取所需要的数据。（课本描述）确定数据需求选择采集方法与工具获取并保存数据4

项目活动一：确定数据需求项目：典型城市空气质量变化研究组名项目名称项目需要的数据5

怎么获取空气质量数据？上网查手机APP天气预报……6

数据采集方法和工具7

数据采集的方法传感器采集法1利用传感设备，检测、采集物理信息，并将其转换为电信号形式表示的一种采集方法。8

数据采集的方法传感器采集法1利用传感设备，检测、采集物理信息，并将其转换为电信号形式表示的一种采集方法。系统日志采集法2利用系统中记录硬件、软件和系统问题的信息文件来采集数据。有操作系统日志、应用程序日志、安全日志等。如：通过Web日志，获取网站点击率。3网络数据采集法9

网络数据采集法随着互联网的日益普及和数字化媒体的崛起，网络成为我们快速获取数据的重要渠道。搜索引擎搜索引擎是一种能为用户提供检索服务，并将检索结果呈现给用户的系统。10

项目活动二：体验搜索引擎使用搜索引擎查询宣城市今天的空气质量指数，填写在活动记录单上。未来一周？过去一年？11

网络数据采集——网络爬虫网络爬虫，是按照一定的规则自动抓取互联网上内容的程序。爬取特定内容的程序叫做聚焦爬虫。搜索引擎这类爬取所有网页内容的叫做通用爬虫。12

项目活动三：体验爬虫程序打开学习资料活动3文件夹，运行程序，观察结果，填写表格查询城市查询结果数据保存结果13

网络数据采集——爬虫程序导入扩展库import模块名from模块名import方法名14

网络数据采集——爬虫程序导入扩展库自定义函数抓取网页15

网络数据采集——爬虫程序导入扩展库自定义函数抓取网页过滤数据16

网络数据采集——爬虫程序导入扩展库自定义函数抓取网页过滤数据输出/存储数据17

网络数据采集——爬虫程序导入扩展库自定义函数抓取网页过滤数据输出/存储数据主函数18

网络数据采集——爬虫软件19

爬虫使用规范爬虫使用起来很方便可以快速从互联网上获取到大量数据我们是否可以随意爬取想要的数据呢？20

爬虫使用规范遵守robots.txt协议遵守相关法律法规禁止：恶意爬取侵犯个人隐私爬取信息用于不正当竞争侵犯商业秘密21

项目活动四：体验爬虫软件使用后羿采集器采集选定典型城市历史空气质量指数。22

课堂总结23

课后思考这些数据反映出怎样的空气质量变化呢？怎么进一步分析得出具体的结论呢？24

25