《机器学习及其应用》书籍 第1章 机器学习概述-汪荣贵.pdfVIP

《机器学习及其应用》汪荣贵等编著 机械工业出版社2019 年第1 版 第一章 机器学习概述 近年来，人工智能、机器学习的发展十分迅速并对社会生活产生越来越多的影响，专门 从事这方面理论研究或应用开发人员也越来越多。人工智能、机器学习这些名词或概念究竟 表达怎样的含义？实现机器学习究竟具有哪些基本方式或方法？机器学习在解决实际问题 时究竟能够发挥怎样的作用？任何一个从事机器学习理论研究或系统开发的专业人员都应 对这些问题具备明确而正确的认识。本章将对这些问题展开讨论，为读者提供机器学习最基 本的概念和知识框架。首先介绍机器学习的基本概念，包括人工智能与机器学习的关系、机 器学习的基本术语及误差分析；然后以机器学习的发展历程为主线简要介绍连接学习、符号 学习和统计学习的基本思想，它们分别代表机器学习三种不同的基本类型；最后分析讨论机 器学习的三个基本问题，即特征提取、规则构建和模型评估。 1.1 机器学习基本概念 从外部环境中学习所需知识或技能是人类的一项重要能力，机器学习要解决的问题就是 如何使得机器能够像人类一样具有这种学习能力。目前，机器学习作为实现人工智能的一项 核心技术，已在数据挖掘、计算机视觉、搜索引擎、语音识别、游戏博弈、经济预测与投资 分析等众多领域得到广泛应用。本节主要介绍机器学习的基本概念，包括人工智能与机器学 习的关系、机器学习的定义、有关机器学习的若干基本术语以及机器学习的误差分析。 1.1.1 人工智能与机器学习 发明创造某种工具来延伸人类器官功能是实现人类科技进步的一种重要手段。例如，汽 车、轮船和飞机等工具的发明延伸了人腿功能，极大提升了人类的交通能力；摄像机、望远 镜和显微镜等工具的发明延伸了人眼功能，极大提升了人类的视觉能力。为摆脱复杂繁重的 科学与工程计算任务，人们发明了计算机代替人脑进行计算。实践证明计算机不仅能够胜任 科学与工程计算工作，而且算得比人脑更快、更准确。那么计算机是否可以进一步承担人脑 的推理或思维等智能任务呢？受此启发，以麦卡赛、明斯基、罗切斯特和申农等一批具有远 见卓识的科学家共同探究使用机器模拟人类思维或人类智能的一系列问题，并在1956 年夏 季首次提出人工智能的概念，标志着人工智能学科的诞生。 人工智能的主要目标是通过计算机这台机器模拟人的某些思维能力或智能行为，如推理、 证明、识别、感知、认知、理解、学习等思维能力或活动，让计算机能够像人类一样进行思 考。六十多年来，人工智能取得了长足的发展，目前在机器翻译、智能控制、图像理解、语 音识别、游戏博弈等领域有着广泛应用。纵观人工智能的发展历程，可依据所用核心技术的 不同将其大致分为逻辑推理、知识工程和机器学习这三个基本阶段。 20 世纪50 年代至70 年代是人工智能发展的早期阶段，那时人们普遍认为实现人工智 能的关键技术在于自动逻辑推理，只要机器被赋予逻辑推理能力就可以实现人工智能。因此， 早期人工智能主要通过谓词逻辑演算模拟人类智能。这个阶段的人工智能的主流核心技术是 1 《机器学习及其应用》汪荣贵等编著 机械工业出版社2019 年第1 版 符号逻辑计算，在数学定理自动证明等领域获得了一定成功。 然而，人们逐步意识到如果没有一定数量专业领域知识支撑，则很难实现对复杂实际问 题的逻辑推理。因此，以知识工程为核心技术的专家系统在20 世纪70 年代至90 年代逐步 成为人工智能的主流。专家系统使用基于专家知识库的知识推理取代纯粹的符号逻辑计算， 在故障诊断、游戏博弈等领域取得了巨大成功。 专家系统需要针对具体问题的专业领域特点建立相应的专家知识库，利用这些知识来完 成推理和决策。例如，如果让专家系统做疾病诊断，就必须把医生的诊断知识建成一个知识 库，然后使用该库中知识对病情进行推断。然而，把专家知识总结出来并以适当的方式告诉 计算机程序有时非常困难，通常需要针对每个具体任务手工建立相应的知识库。例如在图像 识别领域，为识别图像中目标是否为猫而建立的知识库不能用于对目标是否为狗的识别，若 要实现对图像中狗的识别，就必须专门建立用于识别狗的知识库。因此，专家知识的人工获 取和表示方式严重制约了人工智