概率密度函数的估计.pdfVIP

第三章概率密度函数的估计 • 最大似然估计 • 贝叶斯估计 • 非参数估计 3.1 引言 • 上一章中我们看到，只要知道先验概率P(ω)和 i 类条件概率密度p(x| ω),我们就可以设计出最优 i 分类器。 • 但在现实中，我们很难完全得到这些先验概率， 我们有的往往只是一些一般的概念和一定数量 的训练样本，我们只能基于它们来设计分类器 • 解决这一问题的思路之一就是首先利用训练样 本来估计未知概率/密度，然后利用它们来设计 分类器。 参数估计 • 在一般的监督模式识别中，估计各个类别的先验概率 并不会遇到太大的困难，但估计类条件概率密度确实 是。 – 样本数目太少 – 特征向量维数太高时问题更严重 • 如果我们依照常识可以知道类条件概率密度的参数形 式，并能确定参数的个数，则问题的难度就会大大降