非参数估计(完整).pptxVIP

非参数估计;引言;主要内容;概率密度估计;概率密度估计;概率密度估计;概率密度估计;概率密度估计;概率密度估计;概率密度估计;概率密度估计;概率密度估计;概率密度估计;概率密度估计;主要内容;Parzen窗估计;Parzen窗估计;窗函数的要求;窗函数的形式;窗口宽度的影响;窗口宽度的影响;窗函数;渐近收敛性;0;∵ x是一维的;例：设待估计的P(x)是个均值为0，方差为1的正态密度 函数。若随机地抽取X样本中的1个、 16个、 256个作为 学习样本xi,试用窗口法估计PN(x)。 解：设窗口函数为正态的， σ＝1，μ＝0 hN:窗长度，N为样本数，h1为选定可调节的参数。 ;用 窗法估计单一正态分布的实验;由图看出, PN(x)随N, h1的变化情况 ①当N＝1时， PN(x)是一个以第一个样本为中心的正态曲线，与窗函数差不多。 ②当N＝16及N=256时 h1＝0.25 曲线起伏很大，噪声大 h1＝1 起伏减小 h1＝4 曲线平坦 ③当N→∞时， PN(x)收敛于一平滑的正态曲线， 估计曲线较好。;例：待估的密度函数为二项分布 解：此为多峰情况的估计 设窗函数为正态 解：此为多峰情况的估计 设窗函数为正态;N=∞;当N=1、16、256、 ∞时的PN(x)估计如图所示 ①当N＝1时， PN(x) 实际是窗函数。 ②当N＝16及N=256时 h1＝0.25 曲线起伏大 h1＝1 曲线起伏减小 h1＝4 曲线平坦 ③当N→∞时，曲线较好。 ;Parzen窗估计;识别方法;例子： 基于Parzen估计的Bayesian分类器 ;主要内容;Kn近邻估计;Kn近邻估计;渐近收敛的条件;Kn近邻估计;例子：;例子：;Kn近邻估计;Kn近邻估计;主要内容;最近邻分类器(NN);最近邻分类器;最近邻分类器;最近邻分类器;最近邻分类器;NN分类器的渐近误差界;NN分类器的渐近误差界;最近邻分类器;k-近邻分类器（k-NN）;k-近邻分类器;例： k = 3 (odd value) and x = (0.10, 0.25)t 选择 k-NN to x { (0.10, 0.28, ?2); (0.12, 0.20, ?2); (0.09, 0.30,?5) } X属于 ?2。;k-近邻分类器;k-近邻分类器;k-NN分类器;k-NN分类器;k-NN分类器;距离度量;常用的距离函数;常用的距离函数;常用的距离函数;最近邻分类器的简化;部分距离法;预分类（搜索树）;预分类（搜索树）;浓缩、剪枝;浓缩、剪枝;浓缩、剪枝;浓缩、剪枝