原创力文档- 1、本文档共9页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 5、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 6、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
基于网格技术的Web信息采集系统.pdf
第二十届全国计算机信息管理学术研讨会
基于网格技术的Web信息采集系统
北京信息科技大学中文信息处理研究中心陈言敏肖诗斌
(北京信息科技大学中文信息处理研究中心，北京，100101)
【摘要】飞速发展的互联网给通用Web信息采集系统带来了巨大的挑战。文章首先介绍了分布式
采集系统的基本原理，然后介绍了网格的概念、特点和架构，最后提出了一个基于网格技术的Web
信息采集系统。
【关键词】网格，集器，GlobusToolkit，Web服务资源框架
A BasedonGrid
Web-crawlingSystem Technology
CHENYanmin，XIA0Shibin
InformationResearchCenter， InformationScience
(Chinese Processing Beijing
：TechnologyUniversity，B确ing100100
[Abstract]TheoftheInternet for
rapidgrowth posesunprecedentedscalingchallengesgeneral·purpose
thearticleintroducesthebasic ondistributedwebcrawler，themain
web-crawlingsystem．First principles
functionand it introducesthe andarchitectureoftheGrid．
technology．Then concepts、characteristics
a in
basedon is forwardthis
Finallyweb-crawlingsystem gridtechnology paper．
put
Crawler，GlobusToolkit，WSRF
[Keywords]Grid，
1引言
of
Iowa最近一项调查显
互联网的迅速发展和广泛普及导致网上信息爆炸性增长。据University
示，截至2005年1月全球可以索引的网页(IndexableWeb)已经达到至少115亿【110这次调查仅限
coverstheindexable
于搜索引擎覆盖的可索引页(only
or
深层或不可见的Web(invisibleweb)网页数目有5000倒21。这一数字仍然在不断的快速增长，
deep
因为互联网每天都会增加数以百万计的新网页。
如何在庞大的互联网上获得有价值的信息已成为网民目益关注的问题。搜索技术的出现为网民
快速找到所需信息带来了福音。搜索引擎是一种用于帮助冈特网用户查询信息的搜索T具，它以一
定的策略在互联网中采集Web信息，对信息进行理解、提取、组织和处理，并为用户提供检索服务，
从而起到信息导航的目的。搜索引擎对整个Web的覆盖率成为评价一个搜索引擎好坏的重要指标之
一，因此一个高效的Web信息采集系统是一个好的搜索引擎的重要基础。
2技术概观
搜索引擎一般有Web信息采集，建立索引库，检索查询这三个部分组成。Web信息采集是利用
文档评论（0）