《大数据平台应用》项目4 设计爬虫获取数据源.pptxVIP

;;爬虫千万条，守法第一条， 爬虫不规范，亲人两行泪;; 网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。; 网络爬虫的英文即Web Spider，是一个很形象的名字。把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页，从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。如果把整个互联网当成一个网站，那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。 ; 爬虫就是能够自动访问互联网并将网站内容下载下来的的程序或脚本，类似一个机器人，能把别人网站的信息弄到自己的电脑上，再做一些过滤，筛选，归纳，整理，排序等等。;知乎：爬取优质答案，为你筛选出各话题下最优质的内容。 购物类网站：抓取商品、评论及销量数据，对各种商品及用户的消费场景进行分析。 房屋租赁类网站：抓取房产买卖及租售信息，分析房价变化趋势、做不同区域的房价分析。 招聘类网站：爬取各类职位信息，分析各行业人才需求情况及薪资水平。 ;;;;;;;;;;;;;;