统计计算 课件 5.1 EM算法.pptx

第五章EM算法

5.1EM算法

5.2EM算法应用

5.3EM算法的收敛性

;5.1EM算法; EM算法是Dempster,Laird和Rubin(DLR)三个人在1977年正式提出的.主要是用于在不完全数据的情况下计算最大似然估计.

在EM算法正式提出以来,人们对EM算法的性质有更加深入的研究.并且在此基础上,提出了很多改进的算法.

在数理统计,数据挖掘,机器学习以及模式识别等领域有广泛的应用.

;主要内容;一、Jenson不等式

;似然函数与极大似然估计;二、EM算法;2、EM算法的推导;;;根据Jensen不等式:;;3.寻找等式成立的条件;求它的最大值即可;EM算法的几点说明;step3:M步求的极大化,得到,完成一次迭代。每次迭代都使似然函数增大或达到局部极值。

;有三枚硬币A,B,C,掷出正面的概率分别为w,p,q,先掷硬币A,如果出现正面,掷硬币B,否则掷硬币C。观察出现的结果,正面为1,反面为0,独立重复的做10次实验,记录如下:1,1,1,1,0,1,0,0

文档评论(0)

1亿VIP精品文档

相关文档