机器学习数据挖掘重点笔记图模型的精确推理.docVIP

　　序言： 　　这次试验完成是图模型正确推理。exact inference分为2种，求边缘概率和求MAP，分布对应sum-product和max-sum算法。这次试验包含到知识点很多，不仅需要熟悉图模型representation，而且还需明白图模型inference理论，大家可参考 coursera课程：Probabilistic Graphical Models?课件和视频。多花点功夫去了解每行代码，无形之中会收获不少。新年第一篇博客，继续加油！ ? 　　算法步骤： 　　Sum-product求条件概率过程为(inference I)： 　　(a): 输入factor list F、观察到变量E 　　(b): 由F中factor得到graph所对应skeleton C. 　　(c): 依次进行变量消除，首先在图C中采取min-neighbors方法找到需要消除变量。然后进行消除(其实就是factor求和积分)，消除过程中会用掉部分factor，同时也会生成一个新factor(注意对新factor补全各节点之间边)。每消除一个变量就会得到一个clique，同时更新该clique和前面已得clique之间edge情况。步骤c一直进行直到全部变量全部被消除掉。结束后得到一棵clique tree. 　　(d): 因为上面tree中有冗余clique(即某个clique可能是其相邻