東工大pptフォーム（英語）下-watanabelab.ppt

NCCCP-Bethe(イジングスピン，　　　　) NCCCP-Betheアルゴリズムはイジングスピンのとき，さらに　　　　　　のとき パラメータ の定義域は，　　　　　　　　　である．ただし　　　は確率分布 　　　　　を とおいたとき，　　　　　　　　　　　　　　　　　で与えられる． * 指数オーダ NCCCPに基づくCDMAマルチユーザ復調アルゴリズム NCCCPに基づいたCDMAマルチユーザ復調アルゴリズムは パラメータ の定義域は，　　　　　　　　　である．　　　は で与えられる(Kabashima, 2003)． * 実験パラメータ 負荷率 （ユーザ数，チップ数） 通信路ノイズ Inner Loopの回数　　1回 分解パラメータ　　の値 * 従来のCCCP ビット誤り率 * ベーテ自由エネルギーに対する可約条件の破れ度合い * 分解パラメータ　　の役割（経験的） * 分解パラメータ 大 小 Outer Loop Inner Loop 収束するまでの更新回数 CCCP-Kikuchi 最適な軌跡の存在（予想） 菊池自由エネルギーにはCCCPの意味で計算量が最小になる分解系列がある． 最適な分解系列，またはそれを近似する系列，に基づく設計方法は今後の課題である（どなたかご教示ください）． * CCCP-Kikuchi まとめ 菊池自由エネルギーに対するCCCPアルゴリズムを拡張し(NCCCP-Kikuchi)，計算量の意味で最適な分解の仕方が存在することを示した． ガウシアングラフィカルモデル，CDMAマルチユーザ復調の2つの具体例の場合に，NCCCP-Kikuchiの有効性を示した． 高次元を対象とするときは(“More is different”)，分解パラメータの違いで計算量に大きく差が開くことから，最適性を考慮して設計した方が良い． ループの入った高次元確率分布について期待値計算を行いたいとき，収束保証を取りたい場合には，拡張されたNCCCP-Kikuchiアルゴリズムも選択肢の1つにお加えください． * 今後の可能性 CCCPアルゴリズムに対する良い分解系列の設計法は？（菊池自由エネルギーに限らなくても良い．） LDPC符号の復号アルゴリズムとしては？ EMアルゴリズムに分解パラメータは入るのか？ 情報幾何学による記述は？ * 第11回情報論的学習理論ワークショップ(IBIS2008) 第11回情報論的学習理論ワークショップ(IBIS2008) 菊池自由エネルギーに対するCCCPアルゴリズムの拡張 東京工業大学総合理工学研究科 知能システム科学専攻　渡辺研究室 学術振興会特別研究員(DC1) 西山　悠 * 内容 背景(A.L. Yuille, 2002) CCCPアルゴリズム（最適化手法） 菊池自由エネルギー（べーテ自由エネルギーを含む） CCCP-Kikuchiアルゴリズム 菊地自由エネルギーに対するCCCPアルゴリズムの拡張 拡張に利用するポイント（メインアイデア） New CCCP-Kikuchi アルゴリズム 具体例 ガウシアングラフィカルモデル(GGM) MPM推定に基づくCDMAマルチユーザ復調 * 内容 背景(A.L. Yuille, 2002) CCCPアルゴリズム（最適化手法） 菊池自由エネルギー（べーテ自由エネルギーを含む） CCCP-Kikuchiアルゴリズム 菊地自由エネルギーに対するCCCPアルゴリズムの拡張 拡張に利用するポイント（メインアイデア） New CCCP-Kikuchi アルゴリズム 具体例 ガウシアングラフィカルモデル(GGM) MPM推定に基づくCDMAマルチユーザ復調 * 問題 高次元確率分布のローカルな周辺分布を効率的に求める． 期待値計算に使う * 確率推論におけるタスク 指数オーダ演算 閉路を含まない 木構造クラスの確率分布 Belief Propagation，Sum-Product の 　　効率的なメッセージパッシングアルゴリズムがある． 尤度計算，EM法におけるE-step計算に利用 * 独立 全結合 メッセージ更新 隠れマルコフモデル Forward Backward 閉路を含む サイクルを含むグラフでは？ LBP (Loopy Belief Propagation) TRP (Tree ReParametrization) CCCP (Concave Convex Procedure) 　　(評価関数ベースのアルゴリズム) * 独立 全結合 近似推論アルゴリズムが