密度估计新版.pptx

2023/10/24;参数化预计：Bayesian预计。假设概率密度形式已知。

实际中概率密度形式往往未知。

实际中概率密度往往是多模的，即有多个局部极大值。

实际中样本维数较高，且有关高维密度函数能够表达成某些低维密度函数乘积的假设普通也不成立。

本节介绍非参数预计办法：能解决任意的概率分布，而不必假设密度函数的形式已知。;非参数预计:

直接用已知类别的样本去预计总体密度分布。

办法有：

①?用学习样本直接去预计类概率密度p(x|ωi)以此来设计分类器。如Parzen窗法

②?用学习样本直接预计后验概率p(ωi|x)作为分类准则来设计分类器。如k近邻法.;思路:从样本集X预计样本空间任何一点x的概率密度P(x)

如果样本集X全部来自于某一类别wi,则预计的是类条件概率密度函数P(x|wi).

如果样本集X全部来自于c个类别而又无法分清哪个样原来自哪个类别(mixturemodels),则预计的是混合概率密度函数P(x);其中Р是样本x落入内的概率。;假如:

区域足够小2)p(x)连续;x点的概率密度函数的预计值与样本数N,包含x的区域的体积V及落入V中的样本数k有关.;讨论:

①当V固定的时候N增加,k也增加,当时