复回归分析估计.PPT

配適度 定義總平方和(total sum of squares, SST)、被解釋平方和(explained sum of squares, SSE)，和殘差平方和(residual sum of squares) 或平方和殘差(sum of squared residual, SSR) 為 CH3 複迴歸分析：估計 第93-94頁 3.24 3.25 3.26 配適度 簡單迴歸的情況，R2定義為 且其解釋為yi之樣本變異可被OLS 迴歸線所解釋的比例，由定義看，R2是介於0 和1 之間。 R2 亦可被證明等於實際yi 和配適值 之相關係數 　平方。亦即 CH3 複迴歸分析：估計 第94頁 3.28 3.29 配適度 CH3 複迴歸分析：估計 第97頁 R2 一個重要的特性即其不會遞減，且當其他自變數加人迴歸時它通常會增加。 當任一變數加入迴歸中，不會降低R2 的特性，使得它不是決定某變數（或一些變數）是否應加入一模型的良好工具。 因此，目前將R2 用來做為某既定模型配適度的衡量。 練習：請以wage1之檔案，先算出簡單迴歸之R2 ，再計算複迴歸之R2 ，並比較之。 通過原點的迴歸 其方程式的形式為 當x1 ＝ 0, x2 ＝ 0, ..., xk ＝ 0 ，則預測值為0。在此情況下， 稱為y 對x1, x2, ..., xk之通過原點迴歸的OLS 估計。 CH3 複迴歸分析：估計 第97頁 3.30 母體模型可寫為 其中β0, β1, ..., βk為我們感興趣的未知參數(常數)，且u 為不可觀察的隨機誤差或隨機干擾項。 CH3 複迴歸分析：估計 第98頁 假設MLR.1 參數線性 3.31 由假設MLR.1 之母體模型，有 n 個觀察值之隨機樣本， 。 CH3 複迴歸分析：估計 第98頁 假設MLR.2 隨機抽樣 假設MLR.3 無完全共線性 在樣本中(也因此在母體中)，沒有自變數是常數，且在自變數之間沒有確切的線性關係。 在任意既定的自變數值之下，誤差項u 的期望值為0。換句話說， CH3 複迴歸分析：估計 第101頁 假設MLR.4 條件平均為0 3.36 3.3 OLS 估計式之期望值 當假設MLR.4 成立，我們通常會說我們有外生解釋變數(exogenous explanatory variables)。若因為某些原因xj和u 相關，則xj稱為內生解釋變數(endogenous explanatory variable)。「外生」和「內生」之詞是由聯立方程式分析而來，但「內生解釋變數」一詞則衍生至包括解釋變數和誤差項相關的任何情況。 CH3 複迴歸分析：估計 第102頁 在假設MLR.1 至MLR.4 之下，對任意母體參數βj 換句話說，OLS 估計式為母體參數之不偏估計式。 CH3 複迴歸分析：估計 第102頁 定理3.1 OLS 的不偏性 3.37 將不相干的變數加入迴歸模型 在複迴歸分析中一個可以很快加以討論的議題是加入一個不相干的變數(inclusion of an irrelevant variable) 或是過度設定模型(overspecifying the model)。這代表有一個(或多個) 即使在母體中它對y 沒有偏效果(亦即，其母體係數為0) 的自變數被代入模型中。 CH3 複迴歸分析：估計 第103頁 遺漏變數的偏誤：簡單的情況 現在假定我們沒有代入不相干變數，我們遺漏了事實上屬於真實模型(或母體模型) 的變數。這通常稱為排除相干變數(excluding a relevant variable) 的問題或模型設定不足(underspecifying the model)。 CH3 複迴歸分析：估計 第104頁 遺漏變數的偏誤：簡單的情況 推導出由遺漏重要變數所產生的偏誤是錯誤設定分析(misspecification analysis) 的一個例子。我們從真實母體模型有兩個解釋變數和一個誤差項的情況開始 由於我們的疏忽或資料的不可獲得，我們估計沒有代入x2 的模型。換句話說，我們只做了一個y 對x1的簡單迴歸，得到方程式 CH3 複迴歸分析：估計 第104頁 3.40 3.41 假設MLR.5 同質變異性 在任意既定的解釋變數值之下，誤差項u 有相同的變異數。換句話說 CH3 複迴歸分析：估計 第110頁 如下頁圖形所示 (簡單線性迴歸 ch2 圖2.8) 3.4 OLS 估計式之變異數 假設MLR.1 至MLR.5 對橫斷面迴歸而言合起來稱為高斯馬可夫假