8.3寻找估计式之方法.PDFVIP

Chapter 8 點估計 8-19 8.3 尋找估計式之方法 在8.2節中提過評斷優良估計式之一些準則，但這些優良估計式要如何 尋找？便是本節要討論的重點，一般尋找估計式常見方法有： 最大概似法（method of maximum likelihood ）。 動差法（method of moment ）。 最小平方法（method of least square ）。 最佳線性不偏估計法（BLUE ）。 貝氏估計法（method of Bayes ）。 本節除了最小平方法留在迴歸分析時再討論，其餘方法分述如下。 一、最大概似法 最大概似法之觀念 ：一般母體之參數θ 皆未知，今若從此母體抽出一 組隨機樣本，此組樣本之可能性無法得知，因此若能找到一個估計值 ˆ ˆ θ ，且可使這組樣本發生之可能性為最大時，則此估計值θ 即稱為θ 之最大概似估計值。 最大概似估計式之相關定義 ： 定義 ：設(X 1,X 2 ,..., X n ) 為抽自母體f (x;θ ) 之一組隨機樣本，則其概似 函數（likelihood function ）即為此n 個隨機變數(X 1,X 2 ,..., X n ) 的聯 合機率分配f (x 1,x 2 ,...,x n ;θ ) 。因為參數θ 未知，故此概似函數 為 的函數，一般常將其寫為 θ L (θ ) = f (x , x ,..., x ;θ ) = f (x ;θ ) ⋅ f (x ;θ ) ⋅ ⋅ f (x ;θ ) 1 2 n 1 2 n n = ∏f (x ;θ ) i i=1 ˆ ( , ,..., ) 定義 ：若L (θ ) 為概似函數，今有一個估計式 Θ X 1 X 2 X n 可使L (θ ) ˆ ( , ,..., ) 為最大時，則此估計式 Θ X 1 X 2 X n 即稱為參數θ 的最大概 似估計式（MLE ）。而當獲取樣本資料值(x , x ,..., x ) 代入上式 1 2 n ˆ ˆ ˆ ( , ,..., ) 估計式 Θ X X X 可知 ，而 即為參數 之最大概似估 θ θ θ 1 2 n 計值。 8-20 統計學（概要） 求最大概似估計式之步驟 ：一般在求算MLE 時，要先瞭解概似函數 L (θ ) 是否可微分，若函數 L