《模式识别原理、应用及实现》 课件 3.4 非参数估计.pptVIP

3.4非参数估计武汉理工大学3.4概率密度函数的非参数估计3.4.1基本方法根据样本直接估计类概率密度函数的方法。1.出发点：基于事实p(X)：类概率密度函数。随机向量X落入区域R的概率P为。设从密度为p(X)的总体中独立抽取的样本X1,X2,…,XN。若N个样本中有k个落入区域R中的概率最大，则：希望是X落入区域R中概率P的一个很好的估计。类概率密度函数p(X)的估计：设p(X)连续，区域R足够小且体积为V，p(X)在R中没有变化，X是R中的点。有得——X点概率密度的估计2.存在的两个问题（4-91）1）固定V，样本数增多，则k/N以概率1收敛。但只能得到在某一体积V中的平均估计。2）N固定，V趋于零，或发散到无穷大。没有意义。必须注意V、k、k/N随N变化的趋势和极限，保持合理性。3.估计的步骤：*构造一串包含X的区域R1，R2，…，RN，…*对R1采用一个样本估计，对R2采用两个样本，……*假定VN是RN的体积，kN是落入RN内的样本数目，是p(X)的第N次估计，有4.为保证估计合理性应满足的三个条件