高斯分布的最大似然估计.pdfVIP

高斯分布的最大似然估计 目录 原理 应用 原理 给定一个数据集 。假设 是多变量高斯分布的一个独 立的观察 。我们可以通过最大似然估计来估计高斯分布的参数 。对数似然函数 是： 对上式化简，我们发现似然函数对数据集合的依赖体现在 和 两 个量上。这两个量叫做高斯分布的充分统计量 （ ）。不同的分 布有不同的充分统计量，这个我们用到的时候在详谈 ，此处不展开。 在式 中，对求导，有： 令上式为零，则我们得到了关于高斯分布均值的最大似然解 ： 显然，这个最大似然解是观测数据集合的均值。 对 的求导，有： 应用 式中出现 了 ，这是联合优化和的结果。另外注意到与无 关，所以我们可以先得到 ，然后求 。 基于和 ，我们求高斯分布的期望和方差：