机器学习课件 2.4期望最大化算法的收敛性.pptxVIP

EM算法的收敛性;要证明:;EM算法例子;;;例子-2;例子-2;例子-2;例子-2;例子-2;实践;初始化

数据的平均值+随机

K-Means

终止条件

最大迭代次数

log-likelihood变化情况

参数变化情况（parameterchange）

收敛

局部最大（Localmaxima）

模拟退火方法（Annealedmethods(DAEM)）

生灭过程（Birth/deathprocess(SMEM)）

数值问题

在协方差矩阵中注入噪音，可以阻止崩溃

单点可能给无穷似然

组件的数量

开放问题

贝叶斯方法;;确定模型的结构

组件的个数

图结构

找到全局最优解

总是有很好的升级形式

优化只在E/M步内完成

避免计算问题

计算期望时的采样方法;与其它方法的比较;;EMpart,

/notes/cs229-notes8.pdf

TheEMalgorithmandextensions,BookbyGeoffreyJMcLachlan

HMMpart,

di.ubi.pt/~jpaulo/competence/tutorials/hmm-tutorial-1.pdf

GMMpart,

/~cga/ai-course/gmm.pdf

/~tibs/stat315a/LECTURES/em.pdf

;