概率密度函数的估计.pptVIP

陈书燊 第二次学习总结 模式识别 概率密度函数的估计 在上一章贝叶斯决策理论中，已经讲述了设计贝叶斯分类器的方法，即在先验概率P(wj)和类条件概率密度p(x|ωi)已知的情况下，按一定的决策规则确定判别函数和决策面。但在实际问题中，类条件概率密度常常是未知的。 利用样本集设计分类器：第一步，利用样本集估计P(wj)和p(x|ωi)，分别记为P(wj)和p(x|ωi) 。第二步，再将估计量带入上一章所讲贝叶斯决策规则中，完成分类器设计。这一过程称为基于样本的两步贝叶斯决策。 1 ^ ^ 概率密度函数的估计 监督参数估计 非监督参数估计 非参数估计 2 参数估计：概率密度函数的形式已知，而表征函数的参数未知，通过训练数据来估计。 最大似然估计 Bayes估计 非参数估计：总体概率密度函数的形式未知，样本所属类别已知，利用训练数据直接对概率密度进行推断。 Parzen窗法 kn-近邻法 3 最大似然估计 样本集可按类别分开，不同类别的密度函数的参数分别用各类的样本集来训练（独立）。 类条件概率密度函数的形式已知，参数未知，为了描述概率密度函数p(x|ωi)与参数θ的依赖关系，用p(x|ωi,θ)表示。 估计的参数θ是确定（非随机）而未知的量