_概率密度函数的估计.pptVIP

模 式 识 别Pattern Recognition 吴贵芳 easyfancy@126.com 谢谢！ 讨论： 1.当样本数足够大时，?n?样本均值； ?n?0 2.先验知识与经验数据对估计值影响。 当观察一个样本时，N=1就会有一个μ的估计值的修正值;当观察N=4时，对μ进行修正，向真正的μ靠近;当观察N=9时，对μ进行修正，向真正的μ靠的更近 当N↑,μN就反映了观察到N个样本后对μ的最好推测，而σN2反映了这种推测的不确定性, N↑, σN2↓,σN2 随观察样本增加而单调减小，且当N→∞, σN2 →0 当N↑，P(μ|xi)越来越尖峰突起.N→∞, P(μ|xi)→σ函数，这个过程成为贝叶斯学习。 一元正态分布方差的估计 多元正态分布参数最大似然估计 均值估计是无偏的，协方差矩阵估计是有偏的。 协方差矩阵的无偏估计是： 最大似然估计示例 最大似然估计是把参数 看成为确定的未知参数。定义似然函数为 它给出了从总体中抽出 这样 N 个样本的概率。 多维情况下的估计参数为： ， 单维情况下的估计参数为： 3.2.2 Bayes估计和Bayes学习 1 Bayes估计 这里我们先回顾一下前面讲述的最小风险Bayes决策。 ——状态空间 ——观察或测量到的 d 维模式特征向量； ——决策空间