机器学习常用数学概念要点.ppt

常用数学概念 苏州大学强化学习讨论班 常用数学概念 高斯函数 高斯径向基函数 范数 方向导数、梯度 矩阵、特征值、秩、正定矩阵 概率、期望、方差、协方差 函数、最小二乘 高斯函数 高斯函数： a：峰值最大值? b：峰值x轴偏移量 c：弧度跨度? 如： 高斯函数 高斯函数的不定积分是误差函数。在自然科学、社会科学、数学以及工程学等领域都有高斯函数的身影。 核函数 设x,z∈X，X属于Rn空间，非线性函数Φ实现输入空间X到特征空间F的映射，其中F属于Rm，nm。根据核函数技术有： 　 　K(x,z) =Φ(x),Φ(z) (1) 　 其中：, 为内积，K(x,z)为核函数。 从式(1)可以看出，核函数将m维高维空间的内积运算转化为n维低维输入空间的核函数计算，从而巧妙地解决了在高维特征空间中计算的“维数灾”等问题。 核函数 常用的核函数有： 1）高斯核函数： 2）多项式核函数： 3）感知器核函数： 4）样条核函数： 径向基函数 径向基函数 (Radial Basis Function 简称 RBF) 是某种沿径向对称的标量函数。 通常定义为空间中任一点x到某一中心xc之间欧氏距离的单调函数 ， 可记作 k(||x-xc