最尤推定最尤法.PDFVIP

0 最尤推定・最尤法 明治大学 理⼯学部 応用化学科 データ化学⼯学研究室 ⾦⼦ 弘昌 1 最尤推定・最尤法とは︖ データが与えられたときに、そのデータが従う確率分布のパラメータを 求める方法 尤度関数 (もっともらしさをあらわす関数) を最大化する (微分して 0 とする) コインの表が出る確率は︖ 2 あるコインを 100 回投げたら、60回表が出た コインの表が出る確率 θを最尤推定により求めてみる • ここでは、θがパラメータ θの確率で表が出るコインを100回投げて、60回表が出る確率 L は 60 40 L (θ ) = 100 C60θ (1− θ ) • L を尤度関数と呼ぶ 3 尤度関数を最大にする θ を求める 尤度関数 L を最大にする θ= 一番もっともらしい θ L を最大にする θと、L の対数を最大にする θ は同じ L の対数のほうが扱いやすいため、対数に変換する 60 40 log L (θ ) = log ( 100 C60θ (1− θ ) ) 60 40 = log ( C ) + log θ + log (1− θ ) 100 60 ( ) ( ) = log C + 60 log θ + 40 log 1− θ ( 100 60 ) ( ) ( ) 4 θ で微分して 0 log L(θ) が最大値を取る log L(θ) が極大値を取る log L(θ) を θで微分したものが 0 d 60 40 log L (θ ) = − = 0 dθ θ 1− θ 60 1− θ − 40θ = 0 ( ) θ = 0.6 二項分布 5 結果が２通り A or B しかないときに (コインの表・裏など)、 n 回 ⾏ったとき A になった回数の確率分布 A になる確率を θとすると、A が k 回おこる確率は、 k n− k C θ (1− θ ) n k θがわからない ( θがパラメータの) とき、尤度関数 L(θ) は k n− k L (θ )