第三章-第二部分-概率密度函数估计1.ppt

估计量 的统计性质 估计量 的性能可以用估计量的统计性质表示。可以证明在某些限制条件下，估计量 是渐进无偏和平方差一致的。限制条件： （1）总体密度 在x点连续 （2）窗函数满足下列条件 非参数估计--Parzen窗法 Kn 近邻 * 非参数估计—KN近邻法 Kn 近邻 * K = 3 非参数估计—KN近邻法 Kn 近邻 * K = 3 非参数估计—KN近邻法 Kn 近邻 * K = 3 非参数估计—KN近邻法 某类的样本总量大、样本点分布密集时，可取较大KN ；反之，只能取较小KN 对固定的某类样本集而言，KN越大（邻域越大），估计结果越不精确（某点的估计密度，是该点为中心、 KN决定的邻域内的密度均值） 非参数估计—KN近邻法 非参数估计—KN近邻法 用KN近邻估计 对单变量正态分布和 两个均匀分布估计的 实验 Kn 近邻 * 每个邻域样本点数量 该类所有样本点 数量 体积 概率密度估计 非参数估计—KN近邻法 MLE就是这样的，我们令D就是训练集，Dc表示训练集D中第c类样本组成的集合，则带有未知参数theta对于数据集Dc的似然是给定数据集下，Dc出现的概率，它是带有未知参数theta的，那么如何求解？ 我们假设这些样本是独立同分布的，x是有限长的数据集。那么可以等价于各个样本出现的概率的一个连乘，