模式识别课件-(40)--非参数估计窗函数估计法.pptVIP

5·4 概密的窗函数估计法 (Nonparameteric Density Estimation) 参数估计：已知概率密度的函数类型，一般适用于概型是平滑、单峰的情况。 非参数估计：适用于概型未知的情况。 基本思想：总体概密估计 是N个样本 对总体概密贡献的叠加。 5.4.1 概密的基本估计式 5.4.1 概密的基本估计式 5.4.1 概密的基本估计式 5.4.1 概密的基本估计式 5.4.1 概密的基本估计式 5.4.1 概密的基本估计式 5.4.1 概密的基本估计式 Parzen窗法使VN按N的某个函数随N的增大不断地缩小，例如 ，这时对kN和kN/N都要加以限制以使 收敛于 。 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.2 Parzen窗法 5.4.3 kN-近邻元估计法 5.4.3 kN-近邻元估计法 5.4.3 kN-近邻元估计法 kN-近邻法，VN的确定 5.4 概密的窗函数估计法 5.4 概密的窗函数估计法 5.4.4 后验概率的估计 %--- Step4. Parzen window functon % y = ParzenWinFun(x,X); [d n] = size(X); %h1 = 10; h1 = 9; hn = h1/sqrt(n); Sigma = zeros(d,d); for i = 1:d Sigma(i,i) =1; end y = zeros(1,d); for i = 1:n y = y + normpdf((x-X(:,i))/hn,0,Sigma); end y = y/n/hn; subplot(2,1,1); plot(x,y, LineWidth,2); title(Parzen Window Pdf Esitmation); xlabel(x); ylabel(pdf); hold on; plot(X,0,ro); hold off; % 统计样本直方图 nXHG = zeros(1,100); for i = 1:nTotalSampleNum nXHG(nX(i)) = nXHG(nX(i)) + 1; end subplot(2,1,2); plot(nXHG, LineWidth,2) ExeCh5_PdfE_Parzen.m (Probability Density Function Nonparamter Estimation-- Parzen Window Esitmation Algorithm) nX = [1 2 2 2 2 3 5 5 5 5 5 ... ]; nTotalSampleNum = length(nX); nSampleNum = nTotalSampleNum; X = nX; m = mean(X); %--- Step3. Calculate Variance C = 0; for i = 1:nSampleNum C = C + (X(i) - m)^2; end x = 1:nTotaslSampleNum; * 模式识别 * * 模式识别 模式识别 * * 模式识别 记 ，则随机矢量 落入区域R中的概率为 设N个样本是从上述概密为 的总体中独立抽取的，N个样本中有k个样本落入区域R中的概率Pk服从离散随机变量的二项分布 因为E[k]=N?P所以可以认为 记 ，则随机矢量 落入区域R中的概率为 因为E[k]=N?P所以可以认为 设区域R的体积为V，取R足够小，使 要使 ? R?0 ? V?0，同时 k??，N??。 应该避免的情况： （I）k=0：由于样本数目总是有限的，所以当V?0时，会使区域R不断缩小以致于可能不包含任何样本，这样导致 。 （II）k?0，V?0：如果恰巧有几个样本重合于出现在R中，则会使估计发散，甚至 。