5 机器学习 (1).pptVIP

人工智能机器学习方法（1） 参考教材: 蔡自兴，徐光佑. 人工智能及其应用(第三版）). 北京：清华大学出版社，2004. Stuart Russell, Peter Norvig. “Artificial Intelligence: A Modern Approach”. 机器学习 （美）Tom M.Mitchell 著 机械工业出版社 模式分类 （美）Richard O.Duda 等著 机械工业出版社 机器学习的定义 利用经验改善系统自身的性能 [T.Mitchell, Book 97] 机器学习 是研究如何使用机器来模拟人类学习活动的一门学科。 机器学习的定义 学习是系统所作的适应性变化，使得系统在下一次完成同样或类似的任务时更为有效。 [H.A.Simon] 学习是构造或修改对于所经历事物的表示。 [R.S.Michalski] 学习是知识的获取。  机器学习框架 在学习智能体中，对执行元件进行反馈并加以修正的元件是学习元件 学习元件的设计 影响学习元件设计的主要因素： 执行元件的哪个组成部分进行学习—谁要学习(who) 组成部分从学习中得到什么反馈—怎么学习(how) 组成部分是如何表示的—学习什么(what) 决定智能体学习本质的最重要因素是学习中的反馈类型 什么是学习 [定义]如果一个计算机程序要完成某类任务T，其完成任务的性能可以用P衡量，该程序根据经验E改进P，则称该程序针对任务T以性能P衡量从经验E中学习(T. Mitchell，机器学习) 对于一个学习系统，必须明确： 任务的种类 衡量性能提高的标准 经验的来源 学习过程中的知识表示 如何表示学到的信息(各种方案—智能体的任何组成部分) 逻辑公式(学到的规则) 贝叶斯网络(学到的概率描述) 线性加权函数(作为学习得到的启发函数) 先验知识的可用性—大部分人类学习发生在具有大量背景知识的上下文环境中 不同的背景知识会导致对同一事物的不同认识(如物理学家和画家对云室照片的看法) 机器学习是多学科的交叉 机器学习的重要性 机器学习是人工智能的主要核心研究领域之一, 也是现代智能系统的关键环节和瓶颈。 很难想象: 一个没有学习功能的系统能被称具有智能的系统。 来自生物、金融与网络等各领域的数据，迫切需要分析或建立模型。 机器学习的应用 网络安全 入侵检测 天气预报 对未来天气的预报 搜索引擎 机器学习技术支撑各类搜索引擎技术 汽车的自动驾驶 天文数据的分析 机器学习的应用 生物技术 蛋白质片段预测 基因表达分析 计算机系统特性预测 银行 信用卡 欺诈行为识别 字符识别 Web应用 …… 机器学习的分支 数据挖掘 利用历史数据来改进决策 医学记录 --?医学知识 软件应用（不能手工编程的应用） 汽车自动驾驶 语音识别 等 自用户化程序 新闻阅读器学习用户的阅读兴趣 机器学习的研究 理论分析? ? 从理论上探索各种可能的学习方法和独立于应用领域的算法 监督学习 非监督学习 半监督学习 强化学习 多示例学习 增量学习与在线学习 集成学习 多策略学习 进化计算 人工生命 神经网络 模糊集与粗糙集 多 Agent系统中的学习 基于案例的推理 决策树 支持向量机 k近邻 序列分析 聚类 …… 面向任务的研究? ? 研究和分析改进一组预定任务的执行性能的学习系统。 信息检索 生物信息学 语音、图像处理与理解 自然语言理解 对复杂结构数据的学习 数据挖掘与知识发现 模式识别 多Agent系统中的学习 …… 认知模型? ? 研究人类学习过程并进行计算机模拟。 人类学习的计算模型 计算学习理论 增强学习系统可理解性 神经网络 人工生命 …… 机器学习的主要方法 有监督学习 从输入和输出的实例中学习一个函数 无监督学习 在未提供明确的输出的情况下,学习输入的模式 强化学习 从强化物中学习,而不是根据教师所说的应该做什么而学习 机器学习方法的分类 归纳机器学习 连接机器学习 统计机器学习。 集成机器学习。 增强机器学习。 …… 归纳学习 归纳学习是应用归纳推理进行学习的一类学习方法,学习者从所提供的事实或观察到的假设进行归纳推理,获得某个概念。 是研究最广的一种符号学习方法 ，其学习目的是为了获得新的概念、构造新的规则或发现新的理论。