第9章1 知识工程和数据挖掘.pptVIP

另一种改善性能的方法：增加输入变量的个数。（t-5）、（t-4）、（t-3）、（t-2）、（t-1）、t时的位置。 六个输入，每个输入都指定两个隶属函数 9.7数据挖掘和知识发现 数据挖掘：数据是我们收集和存储的，知识是帮助我们做决策的。从数据中提取知识称为数据挖掘。 也可以称为在大量数据中进行探索和分析，以便发现有意义的模式和规则。数据发掘的最终目标是发现知识。 数据仓库：主要特征是容量。存储数据仓库中的数据记录是与时间相关的，所有的数据按照时间排列。数据也是整合的，操作中所有的相关信息相互融合构成了数据仓库。 查询工具和数据挖掘区别：查询工具基于用户的假设---用户必须询问正确的问题。而数据挖掘工具，不需要假设数据集中变量之间的相互关系，就可以确定影响结果的最重要的因素。 数据挖掘的应用：银行、金融、营销和电信有了大量的应用。还有直销、趋势分析和欺诈识别等。 挖掘数据:通常使用用户驱动的技术分析数据，这时用户明确作出假设，然后用数据和测试证明这个假设。现实中，数据仓库中包含变量很多，这些变量中关系非常复杂。 使用统计方法来理解这些数据：统计可以收集、组织和利用数值数据的科学。但是它不能解决数据挖掘的问题，例如，在大量数据中发现有意义的模式和规则。 数据发掘工具：通常使用神经网络和神经模糊系统。但是数据挖掘最常见的工具是决策树。 决策树：定义为推理过程的图。它可以通过树形结构来表述数据集。决策树特别适合解决分类问题。 下面是一个发现对新的消费品的宣传感兴趣的家庭的决策树。 每个节点包含该节点上数据记录总数的信息，也包含因变量取值的分布信息。 因变量：它是用户选择的。决定研究的目标。本例中，Household被设置成因变量，取值可以是responded或not responded两种 数据分割：数据的拆分。 基尼系数：是评价预测器分割亲代节点中所包含的类的好坏的一种度量方法。 Corrado Gini是意大利的经济学家，他提出了一种衡量一个国家收入分配不均等数量的大致方法。下图中对角线和财富绝对均等分配相对应。基尼系数就是用曲线和对角线之间的面积除以对角线下方的总面积得到的。均等的话系数为0，一个人拥有全部财富的话，系数为1. 基尼系数表示图 a)是基尼选择分割。b)是经验选择分割。 案例10：数据挖掘决策树 问题：知道哪些人患有高血压的风险 条件：一份公众健康调查的结果。 决策树特点：和神经网络和模糊系统不同，决策树不能处理有噪音和被污染的数据。数据挖掘之前必须保证数据时干净的。 本例中120/80是理想血压；120/80和130/85是常规血压，140/90以上指高血压。 年龄来分隔进行创建决策树的下一层 可以研究某个分割。 决策树优缺点： 1）优点：结果可视化，容易跟踪某条路径。发现的关系可以用一系列规则表示，这些规则可用于开发专家系统。 2）缺点：联系数据必须按范围分组，这就可能隐藏重要模式。另一个处理缺失和不一致的数据---必须用“干净”的数据才能得到可靠的结论。最重要的限制是每次处理的变量不能超过一个。仅能解决那些可以将空间分割成几个连续矩形的问题。如图表示： “完美”和“噪音”实例训练分析 实验结果分析 20个隐含神经元网络平均误差很低，但结果并没比10个的有明显的差异。所以，这里10个比较好 用“噪音”样例训练出来的明显要比“完美”样例性能大大改善。 案例5：预测神经网络 问题：房地产评估 分析：此问题就是一个根据类似住房的销售价格的知识预测给定房产的市场价。 训练集：网络的推广力取决于训练集大小、网络架构和问题的复杂性。 训练集大小（Widrow的经验估计） N 是训练集例子数量 网络中突触权重数量 e 是测试允许的 网络误差 数据的处理 由于要融合不同类型的特征，而所有输入输出都在统一的数据情况下，神经网络的性能很好。 如何修改数据： 类型：连续数据、离散数据、分类数据。 连续数据： 离散数据: 如果值超过一打，就可以按连续的处理 数据的处理 分类数据：1/N编码来修改。例如：婚姻状况有单身、离异、已婚和鳏寡。每个取值非0即1.已婚的人表示为：0010. 如何验证结果 训练前，将所有可用的数据随机分成训练集和测试集。 灵敏度分析：由于神经元的非线性特征会阻止网络产生简单和可以理解的规则。而还要理解某个输入对输出的重要性。 作用：还可以确定模型的输出对输入的敏感程度。可以理解不透明模式内部的关系。 操作：先输入最小值然后最大值，测输出 案例6：具有竞争学习的分类神经网络 问题：开发一个智能系统，可以将鸢尾植物分类，并能够制定任意一种鸢尾植属植物的类别。 条件：现有一个多个变量的数据集，但不知将其如何分类，因为没有找到数据独一或独一无二的特征。 竞争