2009617172632636.pptVIP

神经网络和遗传算法 概述与应用的研究 主讲人：苏 丹 主要介绍以下四方面的内容： KDD思想 1 真理在数据中 哲学思想 -- ”实事求是”。 “实事”--数据， “是”--知识，规律， “求”--发现、挖掘。 专家系统是“唯专家”的。 KDD“唯数据”的。 KDD思想 2 训练数据──包含真理的数据 训练数据例子分析(专家系统观点) 假定∶1000次行车记录，其中快车有200次，常速800次共肇事10次，肇事记录中有7次是快车。 专家系统:先请教一位交通管理专家，将(历史)经验表达到知识库。历史经验:“十次肇事九次快”，得出下列规则： 专家系统结论∶ IF 肇事 THEN 开了快车 置信度90% (不正确的经验） KDD实事求是地挖掘车速和安全的关联 (1)1000个记录中快车出现200次。 数据库对“快车”事件的支持度=200/1000=20% 肇事 且 快车的事件占0.7% (2)10次肇事中快车出现7次，则“肇事、快车” 的置信度为70%。 R1：肇事、快车，支持度 0.7%，置信度70% KDD∶真理在训练数据中，训练数据经过数清理、核对数据、除噪，节约时空。 KDD思想3测试 -实践是检验真理的标准 用另一组测试数据来测试和修正。 测试数据∶从1000号──1999号共1000项。快车记录200次，肇事记录10次，肇事记录中9次为快车。 规则R1与这组数据不吻合。用增量挖掘技术，它把新的1000个记录增加到图1上，得到2000个记录中快车出现400次，快车且肇事支持度为0.8%，20次肇事记录中共16次是快车的。于是得出下列规则： R2：快车、肇事，支持度为0.8%，置信度为80% 测试修正的规则R2在更大范围内给出了更准确的精度。 Data Mining and Business Intelligence 商务智能金字塔 Data Mining: Confluence of Multiple Disciplines 同学们常常要扮演 标注红色的几个专家 数据库分析和决策支持 市场分析和管理：市场营销,顾客关系,菜篮子分析 风险分析和管理：天气预报,保险业,股市分析 诈骗预测和管理 其他应用 Test mining , Web analysis 智能查询回答 间谍搜集的情报 关联规则的挖掘 分类知识的挖掘 例 住房分配 (1)输入:训练数据集 (4)交互生成加权机制Total =∑PiFi，其中Fi为各条 件化值，Pi为加权值，总分为应住面积。 (5)根据训练数据，调整加权。例如张三及类似与张 三条件的应住85平方米等，使得在训练集中各记 录的∑PiFi刚好在应住面积的分数段中。 (6)用测试数据测试和修改公式Total =∑PiFi。 (7)公式Total=∑PiFi 就是从数据中“挖”出来的分类 知识，可以推广使用。 基于决策树的分类 例高校招生：德智体三标准(门限值)。决策树 基于决策树的分类 上述决策树把德育放在第一位。绝大多数考生都符合标准。第一节点(德育)分流后，候选空间并未迅速减少(信息增益小) 如果把智育节点提前，可在第一步将候选集缩小到1/3，提高整个系统效率。 事实上的招生过程采用了这一方法。 决策树分类技术研究节点集的选择，节点的次序，门限值的确定公式等等，其目的是使分类比较准确，比较快。 三、人工神经网络的组成要素 1、一组处理单元（PE或AN）； 2、处理单元的激活状态（ai）； 3、每个处理单元的输出函数（fi）； 4、处理单元之间的联接模式； 5、传递规则（∑wijoi）； 6、把处理单元的输入及当前状态结合起来产生激 活值的激活规则（Fi）； 7、通过经验修改联接强度的学习规则； 8、系统运行的环境（样本集合）。 激活(励)函数f 作用：实现对该神经元所获得的网络输入的变换，表 达了神经元的输入输出特性。 形式：1)线性函数 f（net）=k*net+c 2)非线性斜面函数 γ 2、感知器模型 感知器是一种早期的神经网络模型，感知器中第一次引入了学习的概念，使人脑所具备的学习功能在基于符号处理的数学到了一定程度的模拟。 1)简单感知器 简单感知器模型仍是MP模型的结构，但它通过采用监督学习来逐步增强模式划分的能力，达到所谓学习的目的。 感知器处理单元对n个输入进行加权和操作v即： 其中，Wi为第i个输入到处理单元的连接权值，θ为阈值，f取阶跃函数。 感知器在形式上与MP模型差不多，它们之间的区别在于神经元间连接权的变化。感知器的连接权定义为可变的，这样感知器就被赋