reg07共线性与偏相关.PPT

* 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 多重共線性問題 * 偏 相 關 兩變數相關不一定有因果關係，如何解決這種具有高度相關的假象呢？ 可利用尋找與此兩變數都有相關的第三個變數，再以此兩變數對這第三個變數作線性迴歸，然後各求出其殘差值，再計算二組殘差的相關係數。 這樣所算出的相關係數，就稱為去除第三個變數影響後這二個變數之間的偏相關係數。 * 偏 相 關 X 與 Y 看似相關性很高，其實二者可能都是受到 Z 的影響，欲知去掉 Z 的影響之後，X 與 Y 的相關還有多大，這種相關在統計上稱為偏相關，以符號 r ( X,Y | Z ) 表示。 X：飲料消耗量 Y：小兒麻痺人數 Z：溫度 * 如何計算 X 與 Y 的偏相關 （1）先作 X (飲料消耗量) 對 Z (溫度) 的迴歸， 求出其迴歸方程式，並分別計算其殘差。 （2）再作 Y (小兒麻痺人數) 對 Z (溫度) 的迴歸， 求出其迴歸方程式，並分別計算其殘差。 （3）求算二項殘差的相關係數，此即 X (飲料消 耗量) 與 Y (小兒麻痺人數) 的偏相關係數。 （4）對此相關係數作檢定，以判斷 X (飲料消耗 量) 與 Y (小兒麻痺人數) 是否相關。 * 第 七 章 共線性 與 偏相關 * 多重共線性的意義 對準則變數 Y，我們在尋找影響它的預測變數 Xi 時，通常會找與 Y 的相關係數高的變數。 以這種方法找到很多的預測變數，但這些預測變數彼此之間可能有高度的相關，造成迴歸模式出現一些難以解釋的不合理現象，此種問題稱為「多重共線性」( multicollinearity )。 * 多重共線性的意義 「多重共線性」( multicollinearity )原先的涵意是指一個迴歸模型中的一些或全部解釋變數彼此之間存在有一種「完全」或「準確」的線性關係；後來也用來指解釋變數彼此之間所具有「高度相關」的情形 。 Y = β0 + β1X1 + β2X2 + … + βp-1Xp-1 + ε λ0 *1+ λ1X1 + λ 2X2 + … + λ p-1Xp-1 = 0 ＝ β0 * (X0＝ 1) * 完全共線性的意義 X1 X2 X2* 10 50 52 15 75 75 18 90 97 24 120 129 30 150 152 (-5) * X1 + 1 * X2 ＝ 0 * 虛擬變數陷阱 Yi ＝ β0 + β1Xi ＋ ?i Yi ＝ β0 + δD1+ γD2 + β1Xi ＋ ?i 1，若為男性 0，若為女性 D1 ＝ D2 ＝ 0，若為男性 1，若為女性 會產生完全共線性的問題 * 虛擬變數陷阱 X0＝1 D1 D2 1 0 1 1 1 0 1 1 0 1 0 1 1 1 0 1 * 1 ＋(－1) * D1 ＋ (－1) * D2 ＝ 0 * 虛擬變數的個數 一般的原則是：如果模型有共同的截距項，且屬質變數 (類別變數) 有 m 種分類，則需引入 ( m－1 ) 個虛擬變數。 如果不符合這條原則，則會陷入虛擬變數陷阱，即「完全共線性」。 * 完全多重共線性的估計問題 β1 的意義：在 X2 保持不變的情況下， X1 每改變一單位時 Y 的平均值的變量。 但如果 X1 和 X2 具有完全共線性，隨著 X1 改變，X2 也會按一個倍數因子λ改變。 (即 X2＝ λX1)。 因此，沒有任何方法可以在 X1 變動時讓 X2 保持不變。這意味著沒有任何方法能從所給的樣本中把 X1 和 X2 對 Y 的各自影響分解開來。從實際方面考慮， X1 和 X2 是不可區分的。 * 完全多重共線性的估計問題 X2 ＝λX1 代入迴歸式： Y ＝ β1X1 + β2X2 + ε  ＝ β1X1 + β2(λX1 ) + ε  ＝ αX1 + ε α ＝ β1 ＋ λβ2 雖然 α 可以用 OLS 唯一地估計出來，卻無法唯一地估計 β1 和 β2 。 α ＝ β1 ＋λβ2 是一個方程式而有二個未知數。對給定的 α 和 λ ，上式中的β1 和β2 有無窮多組解。即β1 和β2沒有唯一值。