人工智能和应用蔡自兴第四版.ppt

人 工 智 能;第七章 机器学习; 7.1 机器学习的定义和发展历史;7.1.2 机器学习的发展史;机器学习进入新阶段的表现 机器学习已成为新的边缘学科并在高校形成课程。 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成。 各种学习方法的应用范围不断扩大。 数据挖掘和知识发现的研究已形成热潮 。 与机器学习有关的学术活动空前活跃 。 ;7. 2 机器学习的主要策略和基本结构;7.2.2 机器学习系统的基本结构 1.学习系统的基本结构 ;2.影响学习系统设计的要素 影响学习系统设计的最重要因素是环境向系统提供的信息，或者更具体地说是信息的质量。 知识库是影响学习系统设计的第二个因素。知识的表示有特征向量、一阶逻辑语句、产生式规则、语义网络和框架等多种形式。 选择知识表达方式的四原则： 表达能力 推理能力 修改能力 扩展能力;7.3 机械学习 1.机械学习模式 机械学习是最简单的学习方法。机械学习就是记忆，即把新的知识存储起来，供需要时检索调用，而不需要计算和推理。它是一种最基本的学习过程。 特点：忽略推理、计算过程，提高效率 ;存储;2.机械学习的主要问题 存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。 提高检索效率：索引、排序、杂凑 环境的稳定性与存储信息的适用性问题：机械学习系统必须保证所保存的信息适应于外界环境变化的需要。 知识过时，设置有效期 存储与计算之间的权衡：对于机械学习来说很重要的一点是它不能降低系统的效率。 重新计算比检索更省有效率时，失去意义； 方法：设置存储量阀值；选择忘却; 7.4 归纳学习;假设H永真蕴涵事实F，说明F是H的逻辑推理，则有：H | F 或 F | H ； 选择型概括，构造性概括： 选择性概括规则： 取消部分条件 放松条件 沿概念树上溯 形成闭合区域 将常量转化成变量 ;7.4.2 归纳学习方法;7.5 类比学习;7.5.2 类比学习过程与研究类型;类比学习的研究可分为两大类： (1) 问题求解型的类比学习 (2) 预测推定型的类比学习。它又分为两种方式： 一是传统的类比法 另一是因果关系型的类比 ;7.6 解释学习(explanation-based learning);EBG求解问题的形式可描述于下:;7.7 神经学习 7.7.1 基于反向传播网络的学习 反向传播（back-propagation,BP）算法是一种计算单个权值变化引起网络性能变化值的较为简单的方法。BP算法过程包含从输出节点开始，反向地向第一隐含层传播由总误差引起的权值修正。 ;BP算法;BP算法的权值调整方法： 令输出结点家j的误差为 则k个训练样本的误差平方和为性能指标 隐层到输出层的权值调整（梯度法）： 输入层到隐层的权值调整（梯度法）： BP网络的训练步骤： 用小随机数初始化网络各层权值； 样本数据输入； 误差计算； 权值变化量计算； 权值调整;7.7.2 基于Hopfield网络的学习 反馈神经网络，它是一种动态反馈系统，比前馈网络具有更强的计算能力。 Hopfield网络是一种具有正反相输出的带反馈人工神经元。;反馈型神经网络（Hopfield网络）;一种特定的Hopfield离散网络的特性（CAM） f(.)=sign(.) 网络计算： Hopfield证明当Wij＝Wji，网络是收敛的。 数据网络演变方式：同步与异步 网络的稳定性：稳定吸引子、极限环状态、状态发散 Hopfiled算法： （1）设置互联权值 具有m个样本，x为输入样本变量，为1或-1的n维向量； （2）对未知类别的采样初始化 yi(0)=xi 0=i=n-1 （3）迭代运算： （4）网络收敛，则结束；否则转（2） ;7.8 知识发现 7.8.1 知识发现的发展和定义 知识发现的产生和发展 知识发现最早是于1989年8月在第11届国际人工智能联合会议的专题讨论会上提出。 知识发现的定义 数据库中的知识发现是从大量数 据中辨识出有效的、新颖的、潜在有用的、并可被理解的 模式的高级处理过程 。 数据集、新颖、潜在有用、可被人理解的、模式、高级过程;7.8.2 知识发现的处理过程;3. 数据变换。即从发掘数据库里选择数据;7.8.3 知识发现的方法 ;2. 机器学习方法 （1）规则归纳 如：AQ算法 （2）决策树 （3）范例推理 （4）贝叶斯信念网络 （5）科学发现 如：BACON系统 （6）遗传算法 ;7.