网络爬虫的计与实现.doc

毕业设计（论文）说明书 学 院 软件学院 专 业 软件工程 年 级 2007 姓 名 张凤龙 指导教师 陈锦言 2011年 3月 6 日 毕业设计（论文）任务书 题目：网络爬虫设计与实现 学生姓名 张凤龙 学院名称 软件学院 专 业 软件工程 学 号 3007218139 指导教师 陈锦言 职 称 讲师 原始依据（包括设计或论文的工作基础、研究条件、应用环境、工作目的等。） 互联网是一个庞大的非结构化的数据库，将数据有效的检索并组织呈现出来有着巨大的应用前景。搜索引擎作为一个辅助人们检索信息的工具成为用户访问万维网的入口和指南。但是，这些通用性搜索引擎也存在着一定的局限性。不同领域、不同背景的用户往往具有不同的检索目的和需求，通用搜索引擎所返回的结果包含大量用户不关心的网页。所以需要一个能基于主题搜索的满足特定需求的网络爬虫。 为了解决上述问题，参照成功的网络爬虫模式，对网络爬虫进行研究，从而能够为网络爬虫实现更深入的主题相关性，提供满足特定搜索需求的网络爬虫。 参考文献 [1]Winter．中文搜索引擎技术解密：网络蜘蛛 [M]．北京：人民邮电出版社，2004年． [2]Sergey等．The Anatomy of a Large-Scale Hypertextual Web Search Engine [M]．北京：清华大学出版社，1998年． [3]Wisenut．WiseNut Search Engine white paper [M]．北京：中国电力出版社，2001年． [4]Gary R.Wright W.Richard Stevens．TCP-IP协议详解卷3：TCP事务协议，HTTP，NNTP和UNIX域协议 [M]．北京：机械工业出版社，2002 年1月. [5]HYPERLINK /search_pub.php?key=key2=罗刚 王振东category=01罗刚 王振东．HYPERLINK /product.aspx?product_idef=search-1-pub自己动手写网络爬虫[M]．北京：清华大学出版社，2010年10月. [6]HYPERLINK /search_pub.php?key=key2=李晓明category=01李晓明，HYPERLINK /search_pub.php?key=key2=闫宏飞category=01闫宏飞，HYPERLINK /search_pub.php?key=key2=王继民category=01王继民．HYPERLINK /product.aspx?product_id=9064323ref=search-1-pub搜索引擎：原理、技术与系统——华夏英才基金学术文库[M]．北京：HYPERLINK /search_pub.php?key=key3=科学出版社category=01科学出版社，2005年04月. 设计（研究）内容和要求（包括设计或研究内容、主要指标与技术参数，并根据课题性质对学生提出具体要求。） 本课题的主要目的是设计面向主题的网络爬虫程序，同时需要满足的是具有一定的性能，要考虑到网络爬虫的各种需求。 网络爬虫应用宽度搜索技术。对url进行分析，去重。网络爬虫使用多线程技术，让爬虫具备更强大的抓取能力。网络爬虫要实现对特定主题的爬取。网络爬虫还要完成信息提取任务，对于抓取回来的网页提取出来:新闻、电子图书、行业信息等。对网络爬虫的连接网络设置连接及读取时间，避免无限制的等待。研究网络爬虫的原理并实现爬虫的相关功能。 最终实现的网络爬虫应该能根据设定的主题，从设定的url进行一定深度的搜索，并最终得到需要的数据。 指导教师（签字） 年 月 日 审题小组组长（签字） 年 月 日 天津大学本科生毕业设计（论文）开题报告 课题名称 网络爬虫设计与实现 学院名称 软件学院 专业名称 软件工程 学生姓名 张凤龙 指导教师 陈锦言 （内容包括：课题的来源及意义，国内外发展状况，本课题的研究目标、研究内容、研究方法、研究手段和进度安排，实验方案的可行性分析和已具备的实验条件以及主要参考文献等。） 课题的来源及意义 互联网是一个庞大的非结构化的数据库，将数据有效的检索并组织呈现出来有着巨大的应用前景。搜索引擎作为一个辅助人们检索信息的工具成为用户访问万维网的入口和指南。但是，这些通用性搜索引擎也存在着一定的局限性。不同领域、