第 10 章 近似推論法.pptVIP

  • 2
  • 0
  • 约2.4千字
  • 约 19页
  • 2019-10-30 发布于湖北
  • 举报
第10章 近似推論法 修士2年 松村草也 目次 変分について 微分は,入力値として受け取る変数を少し変化させた時に関数の値がどう変化するか 同様に汎関数とは入力として関数を受取り,出力値として汎関数の値を返すもの. 汎関数微分を考えることができ,これは入力関数が微小に変わった時の汎関数の値の変化を表している.これを変分という. 変分法を用いて,近似解を求めることができる. 変分推論 9章で行われた議論を,変文推論を用いて行ってゆく. 潜在変数をZとおく.同様に観測変数すべてをXと書く.X={x1,x2,…xN}, Z={z1,z2,…,zN} 同時分布p(X,Z)が与えられた状態で,事後分布p(Z|X)とモデルエビデンスp(X)の近似を求めることを目的とする. まず抽象的なイメージでモデルについて考え,あとで具体的に混合ガウス分布に対して適用する. 変分推論 すべてパラメータの事前分布が与えられたモデルがあるとする. モデルにはパラメータの他に潜在変数がある可能性があり,それをZとおく. 下限 カルバックライブラー ダイバージェンス 尤度関数 KLダイバージェンスが0になるとき,q(Z)は真の事後分布p(Z|X)になる. 変分推論 EM法の議論とは,パラメータベクトルが現れず,確率変数としてZの中に含まれていることである. 積分記号は和に変えることができ,離散変数についても同

文档评论(0)

1亿VIP精品文档

相关文档