互联网数据采集系统的设计与实现.docxVIP

互联网数据采集系统的设计与实现 摘要：针对目前互联网上的数据信息涉及网站多、数据量大、数据复杂、数据标准不统一等问题。通过采用分布式数据库和支撑服务组件等技术，设计建设一套互联网信息采集管理系统，实现对互联网上相关的数据快速采集和生产标准格式数据的目标。 1、概述 全球互联网步入泛在普及、深度融合、变革创新、引领转型的新阶段，根据国际数据公司的统计和预测，全球数据存储量将由2015年的10ZB增长到2020年的44ZB，进入万物互联时代数据存储量呈现指数级增长，各类新闻媒体、信息检索、社区论坛、商务金融、学习教育等多样化数据资源已经遍布于互联网的各个角落，互联网已经成为了一个庞大的数据资源池。因此，无论是政务机构、企事业单位甚至是个人，已经逐渐的将互联网数据资源作为辅助完成项目建设、业务工作、科学研究的重要数据来源之一。所以，有必要建立一套互联网数据采集系统，解决互联网数据采集问题，丰富中心大数据来源，为政府决策、行业管理以及公众提供更好的信息服务。 2、系统总体设计 本系统具体包括互联网信息感知系统，分布式数据库和支撑服务组件。 互联网信息感知系统 互联网信息感知系统包含三个子系统，分别是后台管理子系统、爬虫容器子系统、存储容器子系统。其中后台管理子系统主要实现数据统计分析、爬虫任务管理、爬虫模板管理、爬虫程序管理、爬虫配置管理、用户管理、角色管理、菜单管理、字典管理等功能。爬虫