- 1、本文档共25页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
项目实战——京东商品信息爬取
及数据分析;本章导读;学习目标;;本项目的目标是根据输入的搜索关键字爬取京东网站相关商品的信息,包括商品名、价格、店铺名和评价数,然后将数据保存至MongoDB数据库中,最后读取数据库中的数据进行分析。;10.2 爬虫实现;10.2 爬虫实现;10.2 爬虫实现;10.2 爬虫实现;10.2 爬虫实现;在此模块中,定义一个解析函数goods_parse(collection),其中collection参数为MongoDB数据库的集合名。该函数实现获取和解析网页内容,获取所需数据,并将数据保存到MongoDB数据库的集合中。其过程如下:;然后,循环60次使用beautifulsoup4库解析商品信息,每个li节点包含一个商品信息(见图10-4),并将商品信息插入MongoDB数据库的集合中;最后,定位“下一页”节点(class属性值为“pn-next”)并单击,实现翻页。整个过程循环的次数为搜索商品的总页数(如“共52页”,可以从class属性值为“p-skip”节点下b节点的文本中获取)。;主模块实现输入搜索关键字,以关键字命名选择或创建数据库的集合,并按顺序调用搜索函数和解析函数。实现代码如下。;运行程序后,MongoDB数据库中的内容如图10-5所示。;10.3 爬虫数据分析;10.3 爬虫数据分析;10.3 爬虫数据分析;10.3 爬虫数据分析;10.3 爬虫数据分析;10.3 爬虫数据分析;10.3 爬虫数据分析;10.3 爬虫数据分析;10.3 爬虫数据分析;本章以爬取京东网站的商品信息为例,介绍了使用Selenium模拟浏览器爬取网站数据、使用beautifulsoup4库解析数据、使用MongoDB数据库保存数据,并使用pandas库分析数据的全部流程。通过本章的学习,读者应学会分析网站、编写爬虫程序、处理和分析爬取到的数据的方法。;THANK YOU
您可能关注的文档
- 《NoSQL数据库原理与应用案例教程》PPT课件(共9单元)第8章 NewSQL数据库.pptx
- 人工智能PPT课件(共12章)第3章确定性推理.pptx
- 《Python网络爬虫技术案例教程》PPT课件(共10单元)八单元爬虫框架Scrapy.pptx
- 《Python网络爬虫技术案例教程》PPT课件(共10单元)二单元爬虫基础.pptx
- 《Python网络爬虫技术案例教程》PPT课件(共10单元)九单元分布式爬虫.pptx
- 《Python网络爬虫技术案例教程》PPT课件(共10单元)六单元模拟登录和处理验证码.pptx
- 《Python网络爬虫技术案例教程》PPT课件(共10单元)七单元爬取APP和PC客户端数据.pptx
- 《Python网络爬虫技术案例教程》PPT课件(共10单元)三单元网页解析基础.pptx
- 《Python网络爬虫技术案例教程》PPT课件(共10单元)四单元爬取动态加载数据.pptx
- 《Python网络爬虫技术案例教程》PPT课件(共10单元)五单元反爬虫策略.pptx
文档评论(0)