网络爬虫调研报告.docxVIP

网络爬虫调研汇报

一调研背景

项目中要对指定的网络资源进行抓取、存储、分类、索引、并提供检索服务。充当全文检索数据库的是Apache组织下的开源项目Lucene检索工具，而Lucene只是个搜索引擎工具，它提供API接口，通过编写程序对信息进行索引和检索，在其后台需要网络爬虫程序的支持，其目的是通过网络爬虫软件抓取网页，作为提供应Lucene搜索引擎的资源，进行索引和查询。

二调研对象

Nutch

Heritrix

2.1Nutch

Nutch是Apache基金会的一种开源项目，它原本是开源文献索引框架Lucene项目的一种子项目，后来渐渐发展成长为一种独立的开源项目。它基于Java开发，基于Lucene框架，提供Web网页爬虫和搜索引擎两部分功能。

Nutch重要分为两个部分：网页爬虫（Crawler）和搜索引擎（Searcher）。Crawler重要用于从网络上抓取网页并为这些网页建立索引。Searcher重要运用这些索引检索顾客的查找关键词来产生查找成果。此外很吸引人的一点在于，它提供了一种插件框架，使得其对多种网页内容的解析、多种数据的采集、查询、集群、过滤等功能可以以便的进行扩展，正是由于有此框架，使得Nutch的插件开发非常轻易，第三方的插件也层出不穷，极大的增强了Nutch的功能和声誉。

2.1.1爬虫工作方略

Nutch爬虫的工作方略一般则可以分为累积式抓取（cumulativecrawling）和增量式抓取（incrementalcrawling）两种。

累积式抓取是指从某一种时间点开始，通过遍历的方式抓取系统所能容许存储和处理的所有网页。在理想的软硬件环境下，通过足够的运行时间，累积式抓取的方略可以保证抓取到相称规模的网页集合。但由于Web数据的动态特性，集合中网页的被抓取时间点是不一样的，页面被更新的状况也不一样，因此累积式抓取到的网页集合实际上并无法与真实环境中的网络数据保持一致。

增量式抓取是指在具有一定量规模的网络页面集合的基础上，采用更新数据的方式选用已经有集合中的过时网页进行抓取，以保证所抓取到的数据与真实网络数据足够靠近。进行增量式抓取的前提是，系统已经抓取了足够数量的网络页面，并具有这些页面被抓取的时间信息。

面向实际应用环境的网络蜘蛛设计中，一般既包括累积式抓取，也包括增量式抓取的方略。累积式抓取一般用于数据集合的整体建立或大规模更新阶段；而增量式抓取则重要针对数据集合的平常维护与即时更新。

在确定了抓取方略之后，怎样从充足运用网络带宽，合理确定网页数据更新的时间点就成了网络蜘蛛运行方略中的关键问题。

总体而言，在合理运用软硬件资源进行针对网络数据的即时抓取方面，已经形成了相对比较成熟的技术和实用性处理方案，这方面目前所需处理的重要问题，是怎样更好的处理动态网络数据问题（如数量越来越庞大的Web2.0数据等），以及更好的根据网页质量修正抓取方略的问题。

2.1.2工作流程

Nutch架构图

Nutch工作流程图

Nutch工作流程：

建立初始URL集合分析

初始URL集的建立有两种方式：超链接和站长提交。

超链接是指机器人程序根据网页链到其他网页中的超链接，就像平常生活中所说的“一传十，十传百……”同样，从少数几种网页开始，连到数据库上所有到其他网页的链接。理论上，若网页上有合适的超连结，机器人便可以遍历绝大部分网页。

站长提交是指在实际运行中，爬虫不也许抓取到所有站点，为此，网站站长可以向搜索引擎进行提交，规定收录，搜索引擎通过核查之后，便将该网站加入到URL集合中，进行抓取。

1.inject操作分析

inject操作调用的是Nutch的关键包之一crawl包中的类org.apache.nutch.crawl.Injector。它执行的成果是：crawldb数据库内容得到更新，包括URL及其状态。

inject操作重要作用可以从下面3方面来阐明：

(1)将URL集合进行格式化和过滤，消除其中的非法URL，并设定URL状态(UNFETCHED),按照一定措施进行初始化分值；

(2)将URL进行合并，消除反复的URL入口；

(3)将URL及其状态、分值存入crawldb数据库，与原数据库中反复的则删除旧的，更换新的。

2.generate操作分析

generate操作调用的是crawl包中的类org.apache.nutch.crawl.Generator。它执行的成果是：创立了抓取列表，寄存于segments目录下，以时间为文献夹名称。循环抓取多少次，segments文献夹下就会有多少个以时间为名称的文献夹。

generate操作重要作用可以从下面3方面来阐明：

(1)从crawldb数据库中将URL取出并进行过滤；

(2