9机器学习解剖.pptx

机器学习 Machine Learning;什么是机器学习 机器学习的发展史 学习策略 神经学习 决策树学习 机器学习的应用及意义;至今没有统一的定义 Learning denotes changes in the system that enable a system to do the same task more efficiently the next time. —— Herbert Simon,1983 Learning is making useful changes in the workings of our minds. —— Marvin Minsky, 1986 ;Machine Learning T,P,E: Computer automatically improves at task T(任务) according to performance metric P(性能) through experience E(经验) —— Tom Mitchell，1997;下棋 T: 下棋 P: 比赛中击败对手的百分比 E: 与自己对弈的训练 手写体识别 T: 识别手写文字 P: 识别的正确率 E: 已经做好的具有代表性分类的手写体数据库 自动驾驶 T: 通过视觉传感器在高速路上自动驾驶 P: 平均无差错行驶里程 E: 在观察人的驾驶过程中记录的一系列图像和驾驶指令数据库;机器学习的发展分为4个时期 热烈时期（50年代中叶到60年代中叶） 神经元模型研究 罗森勃拉特1957年提出的感知器模型 冷静时期（60年代中叶至70年代中叶 符号概念获取 模拟人类的概念学习过程 复兴时期（70年代中叶至80年代中叶） 知识强化学习 与各种实际应用相结合，尤其是专家系统在知识获取方面 最新阶段（1986年至今） 连接学习和混合型学习 符号学习和连接学习结合;机器学习进入新阶段的表现 机器学习已成为新的边缘学科并在高校形成课程。 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成。 各种学习方法的应用范围不断扩大。 数据挖掘和知识发现的研究已形成热潮 。 与机器学习有关的学术活动空前活跃 。 ;Rote Learning(死记硬背式学习、机械学习) memory-based Induction(归纳学习) Learning from examples (Supervised) Dicision Tree(决策树学习) Learning from observation and discovery (Unsupervised) Analogy (类比学习) according to the similarity of knowledge in different domain Explanation-based Learning(解释学习) Deduction and Induction are combined Neural Learning Clustering(聚类) Discovering similar group Reinforcement(增强学习) Learn from feedback given at end of a sequence of steps;机械学习模式(Rote Learning) 最初在Sameul的跳棋程序CHECKERS中提出，并获得成功应用 最简单的学习方法 机械学习就是记忆，即把新的知识存储起来，供需要时检索调用 也叫死记硬背学习 不需要计算和推理 是一种最基本的学习过程 ;存储;机械学习的主要问题 存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。 环境的稳定性与存储信息的适用性问题： 机械学习系统必须保证所保存的信息适应于外界环境变化的需要。 存储与计算之间的权衡：对于机械学习来说很重要的一点是它不能降低系统的效率。;Induction learning 是应用归纳推理进行学习的一种方法 根据归纳学习有无教师指导，可把它分为示例学习和观察与发现学习。 示例归纳学习的模式 ;例：学习“同花”概念 实例空间：(2, 梅花)， (3, 梅花)， (5, 梅花) (J, 梅花)， (K, 梅花) 规则空间：描述一手牌的全部谓词表达式 如：SUIT(花色)，RANK(点数)，常量梅花，方块，A，1，2… SUIT(c1，x)∧SUIT(c2，x)∧SUIT(c3，x)∧SUIT(c4，x) -同花(c1,c2,c3,c4) ;归纳推理的方法 变量代换常量 示例1：SUIT(c1，梅花)∧SUIT(c2，梅花)∧SUIT(c3，梅花)∧SUIT(c4，梅花) 示例2：SUIT(c1，红桃)∧SUIT(c2