机器学习原理与应用电子教案 [2.4]数学基础.docxVIP

备课日期：年月日

授课时间

课时（理论+实验）

周次

星期:节次:

授课课题

数学基础

教学目标

1.理解数学基础知识在学习机器学习算法中的重要性。

2.掌握数学基础知识：导数运算、贝叶斯定理、期望与方差、信息熵、距离、损失函数。

教学重点

1.信息熵；2.距离；3.损失函数。

教学准备

PPT、点名册等。

教学方法

指导阅读、案例法。

教学过程设计

备注

课题引入

导数运算、贝叶斯定理、期望与方差、信息熵等是学习机器学习算法设计中常用的数学理论，注意学习与应用。

【时间】分钟。

教学步骤及主要内容

【主板书】§2.4数学基础

一、导数

【主板书】导数

1.导数：函数在某一点的导数描述了这个函数在这一点附近的变化率。

2.偏导数：多变量的函数的偏导数是它关于其中一个变量的导数，而保持其他变量恒定。

3.方向导数：偏导数反映函数沿坐标轴方向的变化率，而方向导数可以表示任意方向的变化率。

4.梯度：度量函数在点p0处沿哪个方向增加的速度最快。

5.梯度与方向导数之间的关系：函数在某一点处的方向导数在其梯度方向上达到最大值；沿梯度方向，函数值增加最快。同理，方向导数的最小值在梯度的相反方向取得，沿梯度相反方向函数值的减少最快。

6.求导法则。

7.多元函数求极值。

8.向量导数。

9.常用函数及其导数：指示函数、幂函数、指数函数、对数函数、Logistic函数。

【强化与拓展】SymPy库。

（1）导入：importsympyassp

（2）声明符号：x=sp.symbols(x)

（3）声明函数：f=(5/x)*(sp.exp(x)-1)-sp.exp(x)

（4）求导：y=sp.diff(f,x)

（5）求方程的解：s=sp.linsolve([x+2*y-5,2*x+y-1],(x,y))

〖PPT〗导数运算。

【时间】分钟。

【提问】。

二、贝叶斯定理

【主板书】贝叶斯定理

1.事件交与并。

2.互斥事件。

3.条件概率。

4.概率加法法则。

5.概率乘法法则。

6.贝叶斯定理。

【副板书】贝叶斯公式解析。

【强化与拓展】概率度量了事件发生的可能性大小，但却无法度量事件的整体影响；当需要度量事件的整体影响时，通常使用期望与方差。

（1）期望：公式、含义（例1：掷筛子）。

（2）方差：公式、含义。

（3）期望与方差的线性变换。

（4）多个独立变量的期望与方差。

〖PPT〗贝叶斯公式、期望与方差。

三、信息熵

【主板书】信息熵

1.信息量：公式、含义。

例1：学生出勤（固定座位与不固定座位对应的信息量）。

例2：学生考试成绩（平时不爱学习但期末成绩高的信息量、平时成绩好期末成绩高的信息量）。

2.信息熵：公式、含义（信息的价值）。

3.交叉熵：公式、含义（两个概率分布之间的差异性）。

〖PPT〗信息量、信息熵与交叉熵。

【时间】分钟。

【提问】。

四、距离

【主板书】距离

度量特征向量之间的差异。

1.曼哈顿距离：公式。

2.欧式距离：公式。

3.切比雪夫距离：公式。

4.闵可夫斯基距离：公式（p取不同值时的含义）。

5.马氏距离：公式、与欧式距离之间的差异（量纲）。

6.汉明距离：求取方法。

7.余弦相似度：公式。

8.杰卡德距离：公式。

〖PPT〗距离。

【时间】分钟。

【提问】。

五、损失函数

【主板书】损失函数

用于求解机器学习算法模型参数。

1.0-1损失函数：公式。

2.平方损失函数：公式。

3.交叉熵损失函数：公式。

【强化与拓展】对于二分类问题，交叉熵的简化。

4.Hinge损失函数：公式。

〖PPT〗损失函数形式。

【时间】分钟。

【提问】。

课堂练习

其他

无

小结与作业

课堂小结

在深入了解机器学习相关算法之前，掌握高等数学、线性代数、概率论与数理统计等必备数学知识是基础、也是关键。

本课作业

1.绘制指定直线L1(如斜率与截距分别为2与5)上10个点P=(x,y)。

2.根据直线L1上的点P=(x,y)产生噪声点Pn=(x,y_npt)。

3.从点集Pn=(x,y_npt)中随机抽取两点(变量inx保存两点的序号)。

4.根据随机抽取的两点(变量inx保存两点序号)绘制直线L2；在同一图中绘制噪声点Pn、直线L1与直线L2（注意设置绘图属性）。

5.求取噪声点Pn=(x,y_npt)到直线L2的平均距离与方差。

本课教学反思（课堂设计理念，实际教学效果及改进设想）