多元回归分析Multiple Regression.pptVIP

多元迴歸分析Multiple Regression 羅惠瓊 淡江大學企管系 2005/04/28 多元迴歸分析 【研究問題】： 學生性別、數學焦慮、數學態度、數學投入動機是否可有效預測學生的數學成就？其預測力如何？ 【方法分析】 研究問題中，由於預測變項包括「學生性別」、「壓力懼怕」、「情緒擔憂」、「考試焦慮」、「課堂焦慮」、「學習信心」、「有用性」、「成功態度」、「探究動機」、「數學工作投入」、「數學自我投入」等十一個； 而依變項為「數學成就」變項一個，因而可採用「多元迴歸分析法」（multiple regression）或稱「複迴歸法」。 多元迴歸分析圖示 依變數若是類別變數 進行多元迴歸時，如果依變數（效標變數）不是連續變數，而是二分類別變數，應以「區別分析」或「二元logistic迴歸分析」。 如果依變數是多分類別變數，則須進行「區別分析」。 多元迴歸模式 多元迴歸模式為： 變數選擇 邏輯基礎： 理論基礎、實證基礎、邏輯推理、專家共識 統計量基礎： 利用每一解釋變數對應之偏F統計量值之大小決定刪去或留在模式中，其方法有 (a)?所有可能迴歸法(All-Possible-Regression Procedure ) (b)?後退淘汰法(Backward Elimination Procedure) (c)?前進選擇法(Forward Selection Procedure) (d)?逐步迴歸法(Stepwise Regression Procedure) 迴歸分析 (一)迴歸估計方程式(最小平方法) (二)變異數分析表 模式檢定(1) 迴歸分析之假說檢定包括總檢定與邊際檢定兩種。 總檢定： 目的在探討迴歸模式中的所有斜率係數是否全部為0。 當斜率係數不全為0時，Y與(X1,X2,…,XK)才具有某種程度的函數關係 。 總檢定之虛無假說與對立假說可列示如下： H0: ?j=0，對所有j H1: ?j?0，對某些j (j=1,2,…,K) 檢定統計量: F=MSR/MSE 邊際檢定： 若總檢定顯著，即應進行邊際檢定(Marginal Tests)，探討個別迴歸係數(?j, j=1,2,…,K)是否顯著異於某一特定數值，共包括K個檢定。 邊際檢定可分為雙尾檢定與單尾檢定，且大多數屬於對0檢定。 對立假說設定為H1: ?j? ?j0，屬於雙尾檢定 。 對立假說設定為H1: ?j ?j0 或H1: ?j ?j0 ，屬於單尾檢定。 檢定統計量: 判定係數R2 R2 稱為多元判定係數（multiple determination coefficient） ： 0? R2 ?1 R2 相當於總變異中可被解釋之百分比例 R2 亦是模式配適度(Goodness of Fit)之指標。 Adjusted R2 在迴歸分析中，如果自變項的個數很多，有時候就要用調整後的判定係數代替原先的判定係數，因為增加新的自變項後，均會使R2變大。 「Adjusted R2」為調整後的判定係數： 殘差分析(1) 基本概念： 在探討誤差項(?i)是否符合常態性、恆常性、獨立性等三項假定。 迴歸分析乃以殘差值(ei, Residual)為誤差項(?i )之估計，等於樣本觀察值與預測值之差，即： 殘差分析(2) 常態性： 假說如下所示： H0: 誤差項遵循常態分配 H1: 誤差項未遵循常態分配 常態性檢定方法 常態機率圖(Normal Probability Plot) ?當H0成立，則常態機率圖應呈現近似450直線 K-S檢定(Kolmogorov-Smirnov goodness-of-fit test) W統計量(W, Wilk-Shapiro Statistic)檢定。 殘差分析 恆常性： 殘差分析(3) 獨立性： 指個案之誤差項(?i )彼此之間獨立。 檢定方法： 1. 觀察ei 對時間之序列圖，需無任何規則性趨勢，則表示誤差項為隨機。 2. Durbin-Watson (D-W) 的統計量來檢定有無自我相關的問題，即殘差是否為獨立。 「共線性」問題 在多元迴歸分析中要留意「共線性」（collinarity）問題。 所謂共線性指的是由於自變項間的相關太高，造成迴歸分析之情境困擾。如果變項間有共線性問題，表示一個自變數是其它自變項的線性組合。 以二個自變項X1，X2為例： 完全共線性 → X1 = a + bX2 如果一變項與其它自變項間有共線性問題，則這個變項迴歸係數的估計值不夠穩定，而迴歸