核密度估计的概念与-Xueyayang.PDFVIP

核密度估计的概念与实验 June4,2014 1 问题 本文讲述核密度估计的概念与原理，同时给出一个实验。文章是参考 wikipedia上的定义1 23 及python中的scipy包 的源码写就的。 2 解答 2.1 概念 以函数估计打比方。现在手上有几个函数值 ，即平面上的几个 点。现在要从这个几个点，推测是从哪个函数中抽样的。如 , 等。如果得到函数的表达式，就可以得到在指定区间，如 内，任意 位置处的函数值了。 核密度估计是一样的概念。估计的是概率密度函数。 从几个样本，估计其服从的分布，即求出其概率密度函数。有了概率密 度函数以后，就可以得到在任意区间（值）处的概率了。 所以，核密度是一个从具体(样本)到普遍（概率密度函数）的过程。然 后再用普遍指导具体。 1/wiki/Kernel_density_estimation 2/doc/scipy/reference/generated/scipy.stats.gaussian_kde.html 3/scipy/scipy/blob/master/scipy/stats/kde.py 1 2 解答 2 2.2 如何估计 2.2.1 放草帽求平均 样本到底是从哪个分布中抽样的，我们不知道。不如假设每个样本都服 从高斯分布，在该点处做一个高斯分布的图形。有Ｎ个样本，就能得到Ｎ个 高斯分布。如wiki页面给出的图： 其中，６条短黑线，即６个样本；６个红草帽，即样本所在点的高斯分 布；一条蓝线，即密度估计的结果。有了这条蓝线，我们可以知道任意处的 函数值。 在[-5,10]的范围内，取任一点 为例，其所在处的值，认为等于Ｎ个 高斯分布在此处的平均值。即， (1) 更简洁（唬人）的写法是： ∑ (2) 如果说一个高斯分布是一个草帽的形状。上面这个过程就是一个放草 帽的过程。在所有的样本点处放一个草帽，然后所有草帽相加求平均。 2.2.2 为什么假定服从高斯分布？ 4 选高斯分布的合理性在哪里？这跟中心极限定理 有关系。即，任何分 布，经过多次独立实验，最终都服从高斯分布。高斯分布的特殊性可见一斑。 4/wiki/Central_limit_theorem 2 解答