统计计算 课件 5.2 EM算法的应用.pptx

5.2节EM算法的应用一、使用EM算法估计混合正态分布(GMM)的参数二、使用EM算法进行k-均值聚类

一、使用EM算法估计混合正态分布(GMM)的参数考虑m个一维正态分布的线性组合组成的混合正态分布使用观测的数据估计参数引入隐变量Z表示第i个随机变量是否被选中,Z=1表示被选中,Z=0表示未被选中,记它的概率分布为

混合正态分布的密度函数为

只要不断最大化的下界,就可以使不断增加已知第j+1轮的输入为求出参数

例1随机变量X服从期望为1、标准差为0.1的正态分布,随机变量Y服从期望为5、标准差为6的正态分布,对这两种分布分别生成300个和700个随机数据,将其充分混合,使用EM算法估计权重参数算法:(1)生成服从期望为1、标准差为0.1的正态分布的随机数,在混合正态分布中权重为0.3。再生成期望为5、标准差为6的正态分布的随机数,在混合正态分布中权重为0.7。将这些数据混合,打乱顺序,作为输入数据。

(2)已知E步

二、使用EM算法进行k-均值聚类先对高斯混合模型使用EM算法求出参数的估计值,再根据给定的数据与均值(均值向量,二维)的距离判断该数据应该属于哪一类。例4已知某个班考试成绩如下:20,88,91,94,86,90,80,98,90,77,85,85,81,66,79,77,88,74,61,88,79,84,76,75,74,77,83,73,76,83,6

文档评论(0)

1亿VIP精品文档

相关文档