机器学习原理与应用课件 第1章 概述.pptxVIP

第1章概述

学习目标了解机器学习的定义、发展史与趋势掌握机器学习基本原理、数学本质与基本术语掌握机器学习相关库的使用方法。123

目录页1.1定义1.2发展历程与趋势1.3基本原理与术语1.4数学本质1.5基本术语1.6常用库概述

1.1定义机器学习是利用特定的方法从历史数据或观测数据中发现规律或知识并利用所发现的规律或知识对新数据形态或相关问题的求解结果进行预测的技术，由于数据中蕴含的规律或知识在数学形式上可表达为特定的函数或模型，因而通常也可以将机器学习所解决的问题表述为利用已知数据求解特定或未知数学模型的问题。

1.1定义知识或规律（数学模型）已知观测数据机器学习算法新数据预测结果机器学习基本过程

课程思政著名学者赫伯特?西蒙教授（HerbertSimon，1975年图灵奖获得者、1978年诺贝尔经济学奖获得者）将“学习”定义为“如果某个系统能通过执行某个过程改进其性能，则这个过程就是学习”，因而，学习的核心目的就是改善性能。其实，对人类而言，此定义也是适用的；例如，我们现在正在学习“机器学习”的知识，其本质目的就是为了提升自己在机器学习方面的认知水平。如果仅仅是低层次的重复性学习，而没有达到认知升级的目的，那么即使表面看起来非常勤奋（比如天天去图书馆上自习），其实也仅仅是个“伪学习者”，因为这样的“我们”并没有改善性能。按照这个解释，毛泽东主席那句著名的口号“好好学习，天天向上”就会焕发新的含义：如果没有性能上的“向上”，即使非常辛苦地“好好”，即使长时间的“天天”，都无法视为“学习”。殊途同归，无论是“人类学习”，还是“机器学习”，提高性能、改善自己，才是关键。

1.2发展历程与趋势在1950年，“计算机科学之父”图灵（Turing）发表“ComputingMachineryandIntelligence”论文，提出了著名的图灵测试（如果一台机器能够通过与人类进行对话且在对话中表现出与人类相似的智能，那么可以说这台机器具有智能），探讨了机器是否能够思考和具有智能的可能性。几十年来，科研人员围绕机器智能、学习等问题进行深入的探索与研究，先后涌现出符号主义、连接主义等学派以及统计学习与深度学习等方法，极大地推动了人工智能、不同类型的海量数据之间快速、协同发展。

1.2.1发展历程时间段发展时期主流技术20世纪50年代初至70年代初推理期运用基于符号知识表示的演绎推理技术。20世纪70年代中期至80年代知识期基于符号知识表示，通过获取和利用领域知识来建立专家系统。20世纪80年代至今学习期两大主流技术分别是符号主义学习和基于神经网络的连接主义学习。

1.2.2发展趋势1.深度学习深度学习利用深层次的神经网络实现数据不同层次特征的提取，进而可解决人工设计特征可靠性低、需要专家知识等局限；其中，底层特征表达对象的细节或局部信息，而高层特征则表达对象整体或全局信息，通常由不同类型的底层特征通过不同方式的组合或抽象而构成。在深度学习的驱动下，人们在计算机视觉、语音处理、自然语言等方面相继取得了巨大的突破，达到或甚至超过了人类的水平。深度学习的成功主要归功于大数据、大模型与大计算三大因素，近年来，循环神经网络、卷积神经网络、残差神经网络、自动编码解码器等不同类型的深度学习框架或模型层出不穷，极大地推动了人工智能技术的发展。

1.2.2发展趋势2.强化学习强化学习通过机器与环境进行动态交互或“试错”的方式获得奖赏以指导行为，进而最大化地累积奖赏以确定学习的最佳行为或获取最优的模型。2016年3月，基于深度卷积神经网络与强化学习设计的AlphaGo以4:1的比分击败顶尖职业棋手，成为第一个不借助让子而击败围棋职业九段棋手的电脑程序。此次比赛成为人工智能历史上里程碑式的事件，也让强化学习成为机器学习领域的热点研究方向。

1.2.2发展趋势3.迁移学习迁移学习旨在将针对其他任务（或源任务）训练好的模型迁移至新的学习任务（或目标任务）中，进而帮助新任务解决训练样本不足、训练效率较低等问题。其根本原理在于不同学习任务之间存在一定的相关性（如狗兔识别与猫羊识别）或者相关数据中蕴含相近的规律或知识，因而可实现规律或知识的推广与应用（如会骑摩托车的选手可很快掌握骑自行车的方法）。

1.2.2发展趋势4.对抗学习对抗学习利用博弈思想或对抗性行为（如产生对抗样本或者对抗模型）加强模型的稳定性，提高数据生成的可靠性，如由生成器与判别器（分别用于生成样本与判别样本的真伪）构成的生成式对抗神经网络被成功应用到图像、语音、文本等领域，成为无监督学习的重要技术之一。

1.2.2发展趋势5.对偶学习对偶学习基本思想在于利用学习任务之间的对偶属性获得有效的反馈/正则化，进而引导、加强学习过程，降低深