概率密度函数的估计方法-read.pptVIP

  • 80
  • 0
  • 约3.56千字
  • 约 53页
  • 2018-01-11 发布于天津
  • 举报
概率密度函数的估计方法-read

第三章 概率密度函数的参数估计 3.0 引言 贝叶斯分类器中最主要的问题是类条件概率密度函数的估计。 问题可以表示为:已有c个类别的训练样本集合D1,D2,…,Dc,求取每个类别的类条件概率密度 。 概率密度函数的估计方法 参数估计方法:预先假设每一个类别的概率密度函数的形式已知,而具体的参数未知; 最大似然估计(MLE, Maximum Likelihood Estimation); 贝叶斯估计(Bayesian Estimation)。 非参数估计方法。 3.1 最大似然估计 样本集D中包含n个样本:x1,x2, …, xn,样本都是独立同分布的随机变量(i.i.d,independent identically distributed)。 对类条件概率密度函数的函数形式作出假设,参数可以表示为参数矢量θ: 似然函数 由独立同分布假设,样本集D出现的概率为: 最大似然估计 最大似然估计就是要寻找到一个最优矢量 ,使得似然函数 最大。 正态分布的似然估计 Gauss分布的参数由均值矢量μ和协方差矩阵Σ构成,最大似然估计结果为: 3.2 贝叶斯估计 已有独立同分布训练样本集D; 已知类条件概率密度函数p(x|θ)的形式,但参数θ未知; 已知参数θ的先验概率密度函数p(θ); 求在已有训练样本集D的条件下,类条件概率密度函数p(x|D)。

文档评论(0)

1亿VIP精品文档

相关文档