南邮自动化人工智能7--机器学习.ppt

7.8.2 知识发现的处理过程 1. 数据选择。根据用户的需求从数据库中提取与KDD相关的数据。 2. 数据预处理。主要是对上述数据进行再加工，检查数据的完整性及数据的一致性，对丢失的数据利用统计方法进行填补，形成发掘数据库。 * 7.8 知识发现 * 3. 数据变换。即从发掘数据库里选择数据 4.数据挖掘。根据用户要求，确定KDD的目标是发现何种类型的知识。 5. 知识评价。这一过程主要用于对所获得的规则进行价值评定，以决定所得的规则是否存入基础知识库。 7.8 知识发现 7.8.3 知识发现的方法 1.统计方法：统计方法是从事物的外在数量上的表现去推断该事物可能的规律性。 （1）传统方法： 收集数据，分析数据，进行推理（回归分析，判别方法，聚类分析，探索性分析） （2）模糊集 （3）支持向量机（SVM） （4）粗糙集： 具有三值隶属函数的模糊集，肯定属于、也许属于、肯定不属于该概念。 * 7.8 知识发现 * 2. 机器学习方法 （1）规则归纳 如：AQ算法 （2）决策树 （3）范例推理 （4）贝叶斯信念网络 （5）科学发现 如：BACON系统 （6）遗传算法 3. 神经计算方法 (MLP、BP、Hopfield、RBF) 4.可视化方法 ：可视化（visualization）就是把数据、信息和知识转化为可视的表示形式的过程。 7.8.4 知识发现的应用 知识发现已在许多领域得到应用。现在，知识发现已在银行业、保险业、零售业、医疗保健、工程和制造业、科学研究、卫星观察和娱乐业等行业和部门得到成功应用，为人们的科学决策提供很大帮助。 * 7.8 知识发现 金融 （1）市场分析与预测 （2）帐户分类、信用评估 保险 （1）潜在客户评估、分析 （2）索赔合理性分析 制造业（生产过程优化） 市场与零售业（销售、库存、需求、零售点、价格等的分析与预测） 医疗业（医疗诊断） 司法（FAIS系统，识别洗钱、诈骗、犯罪分析） 工程与科学（星体发现） * 7.9 小结 本章只对机器学习作个入门介绍。 机器学习在过去十多年中获得较大发展。今后机器学习将在理论概念、计算机理、综合技术和推广应用等方面开展新的研究。其中，对结构模型、计算理论、算法和混合学习的开发尤为重要。在这些方面，有许多事要做，有许多新问题需要人们去解决。 * 第七章 机器学习 7.1 机器学习的定义、研究意义与发展历史 7.2 机器学习的主要策略与基本结构 7.3 –7.7 几种常用的学习方法 7.8 知识发现 7.9 小结 7.1 机器学习的定义和发展历史 7.1.1 机器学习的定义 机器学习的定义 顾名思义,机器学习是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取新知识和新技 能,并识别现有知识的学问。 * 7.1.2 机器学习的发展史 机器学习的发展分为4个时期 第一阶段是在50年代中叶到60年代中叶，属于热烈时期。 第二阶段在60年代中叶至70年代中叶，被称为机器学习的冷静时期。 第三阶段从70年代中叶至80年代中叶，称为复兴时期。 机器学习的最新阶段始于1986年 。 * 7.1 机器学习的定义和发展历史 机器学习进入新阶段的表现 机器学习已成为新的边缘学科并在高校形成课程。 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成。 各种学习方法的应用范围不断扩大。 数据挖掘和知识发现的研究已形成热潮 。 与机器学习有关的学术活动空前活跃 。 * 7.1 机器学习的定义和发展历史 7. 2 机器学习的主要策略和基本结构 7.2.1 机器学习的主要策略 按照学习中使用推理的多少，机器学习所采用的策略大体上可分为4种———机械学习、传授学习、类比学习和示例学习。 机械学习（死记硬背） 传授学习（灌输；推理、翻译、转化） 类比学习（模仿；寻找相似的案例） 示例学习（举一反三,归纳，抽象） * 7.2.2 机器学习系统的基本结构 1.学习系统的基本结构 * 环 境 学 习 知识库 执 行 图6.1 学习系统的基本结构 7.2 机器学习的主要策略和基本结构 2.影响学习系统设计的要素 影响学习系统设计的最重要因素是环境向系统提供的信息，或者更具体地说是信息的质量。 知识库是影响学习系统设计的第二个因素。知识的表示有特征向量、一阶逻辑语句、产生式规则、语义网络和框架等多种形式。 选择知识表达方式的四原则： 表达能力 推理能力 修改能力 扩展能力 * 7.2 机器学习的主要策略和基本结构 7.3 机械