模式识别 参数估计.pptVIP

? Parzen 窗口估计 假设 RN 为一个 d 维的超立方体， hN 为超立方体的长度 ∴超立方体体积为： ， d=1 ，窗口为一线段 d=2 ，窗口为一平面 d=3 ，窗口为一立方体 d3 ，窗口为一超立方体 窗口的选择： h V d N N ? ? ? ? ? ? ? ? 其他 . 0 2 1 | | , 1 ) ( u u ? |} | exp{ ) ( u u ? ? ? 方窗函数 指数窗函数 } 2 1 exp{ 2 1 ) ( 2 u u ? ? ? ? 正态窗函数 Φ (u) Φ (u) Φ (u) h N 正态窗函数 ∵ ф(u) 是以原点 x 为中心的超立方体。 ∴在 xi 落入方窗时，则有 在 VN 内为 1 不在 VN 内为 0 落入 VN 的样本数为所有为 1 者之和 ∴ 密度估计 ? ? ? ? ? ? ? ? ? ? ? 2 2 h x x h x x N i N i 1 ] 2 1 [ ] 2 [ ] | | [ ? ? ? ? ? ? ? ? h h h x x N N N i ? ? ? ? ? N i N i N h x x K 1 ) | | ( ? ? ? ? ? ? N i N i N N N N h x x V N V N K x P 1 ) | | ( 1 1 ) ( ? 讨论 ? 讨论： ? ① 每个样本对估计所起的作用依赖于它到 x 的距离，即 ? | x- xi|≤hN/2 时， xi 在 VN 内为 1 ，否则为 0 。 ? ? ② 称为 的窗函数，取 0 ， 1 两种值，但有 ? ? 时可以取 0, 0.1, 0.2…… 多种数值，例如随 xi 离 x 接近的程度， ? 取值由 0, 0.1, 0.2…… 到 1 。 ) | | ( h x x N i ? ? h x x N i | | ? ) | | ( h x x N i ? ? ? ③ 要求估计的 PN(x) 应满足： ? 为满足这两个条件，要求窗函数满足： ? ④ 窗长度 hN 对 PN(x) 的影响 ? 若 hN 太大 , PN(x) 是 P(x) 的一个平坦 , 分辨率低的估计 , 有平均误差 ? 若 hN 太小 , PN(x) 是 P(x) 的一个不稳定的起伏大的估计 , 有噪声误差 ? 为了使这些误差不严重， hN 应很好选择 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? h x h x x d h x x h x x N i x N i N i N i | | 0 ) | | ( ) | | ( 0 ) | | ( ? ? ? ? ? ? ? ? 1 ) ( 0 ) ( dx x P x P N N 例 1 ：对于一个二类（ ω1 ， ω2 ）识别问题，随机抽取 ω1 类的 6 个样本 X=(x1 ， x2 ， …. x6) ω1=(x1 ， x2 ， …. x6) =(x1=3.2 ， x2=3.6 ， x3=3 ， x4=6 ， x5=2.5 ， x6=1.1) 估计 P(x|ω1) 即 PN(x) 解：选正态窗函数 ) 2 1 exp( 2 1 ) ( 2 u u ? ? ? ? ] ) | | ( 2 1 exp[ 2 1 ) | | ( ) ( 2 h x x h x x u N i N i ? ? ? ? ? ? ? ? ? 0 1 2 3 4 5 6 x 6 x 5 x 3 x 1 x 2 x 4 x ? ∵ x 是一维的 ? 上式用图形表示是 6 个分别以 3.2 ， 3.6 ， 3 ， 6 ， 2.5 ， 1.1 为中 ? 心的丘形曲线 ( 正态曲线 ) ，而 PN(x) 则是这些曲线之和。 ] ) 05 | 1 . 1 | ( 2 1 exp[ 134 .