最大后验概率推理-DataMiningLab.PDFVIP

最大后验概率推理 牛婷婷刘沁源 2016/5/25 Data Mining Lab, Big Data Research Center, UESTC DM Email：junmshao@ LESS IS MORE /shaojunming DM 数据挖掘实验室 •大纲: LESS IS MORE Data Mining Lab 1. 综述 – 解决什么样的问题 2. MAP的变量消除 – 如何解决这个问题 3. 团树中的最大积 – 如何快速解决问题 4. 总结 2/42 DM 数据挖掘实验室 LESS IS MORE Data Mining Lab 3 / 42 DM 数据挖掘实验室 1. 综述： LESS IS MORE Data Mining Lab • MAP：Maximum a posteriori • Inference：推理是通过计算回答查询问题 • MAP查询的目的：对所有的变量（非证据）找到 最可能的赋值 • 边缘MAP查询的目的：对变量的一个子集找到最 可能的赋值，并将其它变量边缘化 4 / 42 DM 数据挖掘实验室 • MAP查询的目标函数： LESS IS MORE Data Mining Lab • 边缘MAP查询的目标函数： • Max-product推理任务(Max-Sum推理任务) • 任务目标：为得分最大（非归一化概率）的变量 集找到一个赋值（最优解问题） 5 / 42 DM 数据挖掘实验室 • def ： LESS IS MORE Data Mining Lab 1. 最大—边缘：对任意的赋值y ∈Val(Y)，函数f 相 对于变量集Y的最大边缘是： 2. 解码：将全局最优问题作为个体变量的一系列 局部最优问题来解决（分治法的思想） 6 / 42 DM 数据挖掘实验室 • 解决方案： LESS IS MORE Data Mining Lab Step 1. 首先为χ 中的所有变最计算一个精确的或近 似的最大-边缘集 Step 2. 然后尝试从这些最大-边缘中提取一个精确 的或近