[工学]第八章_机器学习与空间信息处理_研究生.pdfVIP

地理信息智能化处理, 武汉大学遥感信息工程学院2010级硕士生 第八章 机器学习与空间信息处理 秦昆 qinkun163@163.com 武汉大学遥感信息工程学院 2010年 8.1 机器学习 什么是学习 学习是人类具有的一种重要智能行为。 人工智能大师西蒙的观点: 学习就是系统在不断重复的工作中对本身能力的增 强或者改进，使得系统在下一次执行同样任务或类 似任务时，会比现在做得更好或效率更高。 但是学习是什么，由于它的机理尚不清楚，所以没 有严格的定义，许多学者都在探讨这个问题。 在教育学领域中，学习一般被认为是人类个体在认识 与实践过程中获取经验和知识，掌握客观规律，使身 心获得发展的社会活动。 在心理学领域中，学习是指人和动物因经验而引起的 倾向或能力相对持久的变化过程。 在人工智能中，学习是系统内部的适应性变化，使系 统在以后从事同一任务或同一问题范围中类似的任务 时，效率更高。 机器能否象人类一样能具有学习能力呢？ 持否定意见的人的一个主要论据：机器是人造的，其 性能和动作完全是由设计者规定的，因此无论如何其 能力也不会超过设计者本人。 这种意见对不具备学习能力的机器来说的确是对的， 可是对具备学习能力的机器就值得考虑了，因为这种 机器的能力在应用中不断地提高，过一段时间之后， 设计者本人也不知道它的能力到了何种水平。 机器的能力是否能超过人? 1959年美国的塞缪尔(Samuel)设计了一个下棋程序， 这个程序具有学习能力，它可以在不断的对奕中改 善自己的棋艺。 4年后，这个程序战胜了设计者本人。 又过了3年，这个程序战胜了美国一个保持8年之久 的常胜不败的冠军。 这个程序向人们展示了机器学习的能力，提出了许 多令人深思的社会问题与哲学问题。 机器学习和人类学习的比较 人类学习 机器学习 人类学习是一个长期而缓 机器学习是短暂快速的 慢的过程 人类学习是 “健忘”的 机器学习却能毫无遗漏地 记住它学过的所有知识 人的知识不具有传递性， 机器学习系统可以将学到 不能直接传递给另一个人 的知识直接复制给另一个 系统 机器学习的发展历程 第一阶段： 20世纪50年代中期到60年代中期，属于热烈时期。这个时 期研究的是“没有知识”的学习，即 “无知”学习； 其主要研究方法是不断修改系统的控制参数以改进系统的 执行能力，不涉及与具体任务有关的知识。 这一阶段的机器学习主要侧重于非符号的神经元模型的研 究，研制通用学习系统，即神经网络或自组织系统。 这种脱离知识的感知型学习系统具有很大的局限性，远不 能满足人们对机器学习系统的期望。 第二阶段： 20世纪60年代中期至70年代中期，被称为机器学习的冷静时 期。 本阶段的研究目标是模拟人类的概念学习过程，并采用逻辑 结构或图结构作为机器内部描述。 机器能够采用符号来描述概念，并提出关于学习概念的各种 假设。 本阶段的代表性工作有Winston 的结构学习系统和Hayes Roth等人的基于逻辑的归纳学习系统。虽然这类信息系统取 得较大的成功，但只能学习单一概念，而且未能投入实际应 用。 第三阶段： 20世纪70年代中期至80年代后期，称为复兴时期。 在这个时期，人们从学习单个概念扩展到学习多个概念，探 索不同的学习策略和各种学习方法。 大量的学习系统涌现出来，比较有代表性的是Michalski的 AQVAL ，Buchana等人的Meta-Dendral，Lenat的AM ， Langley的BACON，Quinlan的ID3等。 1980年，在美国的Carnegie-Mellon大学召开了第一届机器 学习国际研讨会，标志着机器学习研究已在全世界兴起。 19