《智能科学技术导论》_第六讲-智能科学基本问题三.pptxVIP

模式

识别

知识推理;

教会机器人做事;

取经万里;

机器学习需要解答问题：

学什么?——烹饪?永春?说相声?

■从哪里学?——师傅?师娘?

■怎么学?——手把手?无师自通?

训练数据

训练、优化;

机器学习工作机制：训练到预测

全量数据集

拆分

训练集验证集预测集

模型调参

训练好的模型训练好的模型

模型预测模型预测

模型评估模型评估

训练阶段应用阶段;

当前炙手可热的深度机器学习给出的答案

学什么:函数

从哪里学：数据

怎么学：反向传播、梯度下降

X1

X2

X3

用数学的方

输入层隐层输出层;

■机器学习概述

■监督学习

■无监督学习

■自监督学习

■从神经元到感知机再到神经网络

■强化学习;

智能机器就是函数;

y为收入，x为工作年限，则预测曲线为y=kx+b,那么k=?,b=?;

思想：把函数估算出来，然后代入新值到函数中，得到的结果，就实现预测了!;

监督学习(supervisedlearning)

数据有标签、一般为回归或分类等任务;

■机器学习概述

■监督学习

■无监督学习

■自监督学习

■从神经元到感知机再到神经网络

■强化学习;

标注数据;

f(数学好=Yes,会编程=Yes,身体好=?,嗓门大=?)

→程序员

类别;

●训练集中一共有n个标注数据，第i个标注数据记为

(xi,yi),其中第i个样本数据为xi,yi是x;的标注信息。

●从训练数据中学习得到的映射函数记为f,f对xi的预

测结果记为f(x?)。损失函数就是用来计算x;真实值yi与预测值f(xi)之间差值的函数。

●很显然，在训练过程中希望映射函数在训练数据集上

得到“损失”之和最小，即minZt=1Loss(f(x;),yi)。;

损失函数名称;

监督学习：训练数据与测试数据;

期望风险(expectedrisk):

当测试集中存在无穷多数据

时产生的损失。期望风险越

小，学习所得模型越好。;

经验风险小(训练集

上表现好);;

监督学习两种方法：判别模型与生成模型

●生成模型从数据中学习联合概率分布

P(X,Y)(通过似然概率P(X|Y)和类概率P(Y)的乘积来求取);

●分类

●识别●推荐;

线性回归;

监督模型——线性回归(linearregression)

在现实生活中，往往需要分析若干变量之间的关系，如碳

排放量与气候变暖之间的关系、某一商品广告投入量与该商品销售量之间的关系等，这种分析不同变量之间存在关系的研究叫回归分析，刻画不同变量之间关系的模型被称为回归模型。如果这个模型是线性的，则称为线性回归模型。

一旦确定了回归模型，就可以进行预测等分析工作，如从

碳排放量预测气候变化程度、从广告投入量预测商品销售量等。;

y=33.73(英寸)+0.516x

y:子女平均身高x:父母平均身高

●父母平均身高每增加一个单位，其成年子女平均身高只增加0.516个单位，它反映了这种“衰退(regression)”效应(“回归”到正常人平均身高)。

●虽然x和y之间并不总是具有“衰退”(回归)关系，但是“线性回归”

这一名称就保留了下来了。;

y=33.73(英寸)+0.516x

y:子女平均身高x:父母平均身高

●给出任意一对父母平均身高，则可根据上述方程，计算得到其子女平均身高

●从父母平均身高来预测其子女平均身高

●如何求取上述线性方程(预测方程)的参数?;

线性回归：参数学习举例

下表给出了芒提兹尼欧(Montesinho)地区发生森林火灾的部分历史数据，表中列举了每次发生森林火灾时的气温温度取值x和受到火灾影响的森林面积y。;

回归模型：y=ax+b

求取：最佳回归模型是最小化残差平方和的均值，即要求8组(x,y)数据得到的残差平均值

∑(y-)2最小。残差平均值最小只与参数a和b有关，最优解即是使得残差最小所对应的a和b的值。;

线性回归：参数学习

回归模型参数求取：yi=axi+b(1≤i≤n)

●记在当前参数下第i个训练样本xi的预测值为yi

●xi的标注值(实际值)yi与预测值i之差记为(yi-yi)2

●训练集中n个样本所产生误差总和为：;

可以看