复旦大学软件学院商务智能课件 Web挖掘基础.ppt

* Text data mining is sometimes conflated with information retrieval. In information retrieval the desired information is already known (at least to the author of an existing text), and the problem is to locate it. Text data mining, however, should strive to find new information. * The term Web Mining was coined by Etzioni (1996) to denote the use of Data Mining techniques to automatically discover Web documents and services, extract information from Web resources, and uncover general patterns on the Web. * Web Mining research can be classified into three categories: Web content mining refers to the discovery of useful information from Web contents, including text, images, audio, video, etc. Web structure mining studies the model underlying the link structures of the Web. It has been used for search engine result ranking and other Web applications. Web usage mining focuses on using data mining techniques to analyze search logs to find interesting patterns.One of the main applications of Web usage mining is its use to learn user profiles. * ‘It is estimated that 80% of the world’s online content is based on text’ Therefore, text mining should also form an important part of web mining. /wiki/TF-IDF * Web挖掘基础 赵卫东 博士 复旦大学软件学院 wdzhao@ 提纲 Web挖掘的概念 Web内容挖掘 Web结构挖掘 Web日志挖掘 知识 WWW Web 挖掘的挑战 Web数据量太庞大：Server Level Collection、Client Level Collection和 Proxy Level Collection ?Web数据的复杂性高于传统的文本文档 Web是一个动态性极强的信息源 Web面对的是一个广泛的用户群体 Web上的信息只有很小的一部分是相关的或有用的 Web挖掘与IR Web上的IR是Web挖掘的一个方面，仅是对信息有序化。 Web挖掘是智能化的IR，IR出现早，技术成熟。 Web挖掘概念 Web挖掘是从大量Web文档的集合C中发现隐含的、有用的模式P的过程：C→P 。 Web挖掘主要处理文本、图形和图像等半结构、非结构化的数据，这些数据分布在Web文档、Web服务器的日志、用户cookies等 。 Web挖掘分类 Web挖掘类 项目 Web内容挖掘 Web结构挖掘 Web日志挖掘 处理数据 类型 IR方法：无结构数据、半结构数据 Web结构数据 用户访问Web数据 主要数据 自由化文本、HTML标记的超文本 Web文档内及文档间的超链 Serverlog, Proxy serverlog, Client log 表示方法 词集、段落、概念、IR的三种经典模型 图 关系表、图 处理方法 统计、机器学习、自然语言理解 机器学习、专有算法 统计、机器学习、关联规则 主要应用 分类、聚类、模式发现 页面权重 分类聚类 模式发现 Web站点重建，商业决策 Web内容挖掘 基于网页内容或其描述中