分析：数据挖掘基础知识介绍.doc

分析：数据挖掘基础知识介绍 论文类别：计算机?-?互联网研究上传时间：2015/9/17?10:56:00论文作者：未知 ? 　　(中讯)对企业来，堆积如山的数据无异于一个巨大的宝库。但是如何利用新一代的计算技术和工具来开采数据库中蕴藏的宝藏呢？ 　　在市场需求和技术基础这两个因素都具备的环境下，数据挖掘技术的概念和技术就应运而生了。 　　基本概念 　　数据挖掘(Data?Mining)旨在从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识。 　　还有很多和这一术语相近似的术语，如从数据库中发现知识(KDD)、数据分析、数据融合(Data?Fusion)以及决策支持等。 　　基本任务 　　数据挖掘的任务主要是关联分析、聚类分析、分类、预测、时序模式和偏差分析等。 　　1关联分析association?analysis　　 　　关联规则挖掘由Rakesh?Apwal等人首先提出。两个或两个以上变量的取值之间存在的规律性称为关联。数据关联是数据库中存在的一类重要的、可被发现的知识。关联分为简单关联、时序关联和因果关联。关联分析的目的是找出数据库中隐藏的关联网。一般用支持度和可信度两个阀值来度量关联规则的相关性，还不断引入兴趣度、相关性等参数，使得所挖掘的规则更符合需求。 　　2聚类分析clustering 　　聚类是把数据按照相似性归纳成若干类别，同一类中的数据彼此相似，不同类中的数据相异。聚类分析可以建立宏观的概念，发现数据的分布模式，以及可能的数据属性之间的相互关系。 　　3分类classification 　　分类就是找出一个类别的概念描述，它代表了这类数据的整体信息，即该类的内涵描述，并用这种描述来构造模型，一般用规则或决策树模式表示。分类是利用训练数据集通过一定的算法而求得分类规则。分类可被用于规则描述和预测。 　　4预测predication 　　预测是利用历史数据找出变化规律，建立模型，并由此模型对未来数据的种类及特征进行预测。预测关心的是精度和不确定性，通常用预测方差来度量。 　　5时序模式time-series?pattern 　　时序模式是指通过时间序列搜索出的重复发生概率较高的模式。与??归一样，它也是用己知的数据预测未来的值，但这些数据的区别是变量所处时间的不同。 　　6偏差分析deviation 　　在偏差中包括很多有用的知识，数据库中的数据存在很多异常情况，发现数据库中数据存在的异常情况是非常重要的。偏差检验的基本方法就是寻找观察结果与参照之间的差别。 　　基本技术1统计学 　　统计学虽然是一门“古老的”学科，但它依然是最基本的数据挖掘技术，特别是多元统计分析，如判别分析、主成分分析、因子分析、相关分析、多元回归分析等。 　　2聚类分析和模式识别 　　聚类分析主要是根据事物的特征对其进行聚类或分类，即所谓物以类聚，以期从中发现规律和典型模式。这类技术是数据挖掘的最重要的技术之一。除传统的基于多元统计分析的聚类方法外，近些年来模糊聚类和神经网络聚类方法也有了长足的发展。 　　3决策树分类技术 　　决策树分类是根据不同的重要特征，以树型结构表示分类或决策集合，从而产生规则和发现规律。 　　4人工神经网络和遗传基因算法 　　人工神经网络是一个迅速发展的前沿研究领域，对计算机科学人工智能、认知科学以及信息技术等产生了重要而深远的影响，而它在数据挖掘中也扮演着非常重要的角色。人工神经网络可通过示例学习，形成描述复杂非线性系统的非线性函数，这实际上是得到了客观规律的定量描述，有了这个基础，预测的难题就会迎刃而解。目前在数据挖掘中，最常使用的两种神经网络是BP网络和RBF网络不过，由于人工神经网络还是一个新兴学科，一些重要的理论问题尚未解决。 　　5规则归纳 　　规则归纳相对来讲是数据挖掘特有的技术。它指的是在大型数据库或数据仓库中搜索和挖掘以往不知道的规则和规律，这大致包括以下几种形式：IF…THEN… 　　6可视化技术 　　可视化技术是数据挖掘不可忽视的辅助技术。数据挖掘通常会涉及较复杂的数学方法和信息技术，为了方便用户理解和使用这类技术，必须借助图形、图象、动画等手段形象地指导操作、引导挖掘和表达结果等，否则很难推广普及数据挖掘技术。 　　实施步骤 　　数据挖掘的过程可以分为6个步骤： 　　1)理解业务：从商业的角度理解项目目标和需求，将其转换成一种数据挖掘的问题定义，设计出达到目标的一个初步计划。 　　2)理解数据：收集初步的数据，进行各种熟悉数据的活动。包括数据描述，数据探索和数据质量验证等。 　　3)准备数据：将最初的原始数据构造成最终适合建模工具处理的数据集。包括表、记录和属性的选择，数据转换和数据清理等。 　　4)建模：选择和应用各