回归分析.pptVIP

迴歸分析 謝寶煖 台灣大學圖書資訊學系 pnhsieh@ntu.edu.tw 迴歸 線性關係的分析 相關分析可以描述兩個連續變數的線性關係，若要進一步確認兩個變數之間的因果關係，則應採用迴歸分析 迴歸分析係用以由自變項（獨立變項）預測依變項，或是研究實驗控制（因）對被觀察的變項（果）的影響 例：由父母身高預測子女身高;用人口成長（自變項）預測（解釋）電話用戶數的成長 例2：由圖書館利用頻率，預測圖書館網站的利用頻率 簡單迴歸 Simple Regression 利用單一的預測變數（自變數）去預測另一依變數 簡單迴歸方程式： Y= a + bX 以單一自變項X，預測依變項Y b為迴歸係數（regression coefficient），代表以X預測Y，其預測力之大小 例：以智商預測學業表現的迴歸分析方程式為：Y（學業表現）y= a + b(智商)x Y = a + bX 在線性關係中，若兩變項之關係是完全相關時（r=1正相關或r=-1負相關），X與Y的關係呈一直線，兩變項之觀察值可以完全被方程式所涵蓋，其中b為斜率， a為截距，代入X可求得Y，代入Y可求得X，無須預測。 但是當兩變項間的關係未達到完全相關時（r?±1），X與Y的關係是分佈在一個區域內，無法以一條直線來表示，而必須以最小平方法來求取一條最具代表性的線，此線稱為最適線（best-fit line）或迴歸線（regression line），再利用迴歸線來預測因果關係。 以X預測Y（X ?Y） By.x 是迴歸係數，表示每當X變動一個單位時，Y的變動量 例：以身高預測體重， Y= -165.35 +1.3426X， 表示身高每變動一公分， 體重增加 1.3426公斤 標準化迴歸係數（standardized regression coefficient），去除特定單位 簡單迴歸分析 程序： 分析＞迴歸方法＞線性 迴歸方法 強迫進入(enter)：強制一次進入式迴歸分析法，為預設 逐步迴歸分析(stepwise) 刪除(remove)：：強制剔除式迴歸分析法 向後(backward) ：後向剔除迴歸分析法 向前(forward) Durbin-Watson統計量 檢定迴歸模型中殘差獨立的假設 如果相鄰殘差項間是相關，則其總差異必小或大 若殘差項間是正相關，則其差異必小 若殘差項間是負相關，則其差異必大 當DW值愈接近2時，殘差項間愈無相關 當DW值愈接近0時，殘差項間正相關愈強 當DW值愈接近4時，殘差項間負相關愈強 驗證常態分配 驗證誤差變項是否具常態分配，可繪殘差次數分配圖，概略判斷母群體的誤差變數是否是常態分配？平均數是否為零 利用常態點圖（normal plot），將每個殘差分別描繪在圖上，若誤差變數是常態分配，則圖上點之連線應近似一直線 由上述分析可知，以期中考來解釋或預測期末考成績是相當合適的，而且所建立的模式也令人滿此，但是是否真能用該模式呢？ 必須再進一步作殘差分析，以判定該模式是否符合簡單線性迴歸模型的假設。 殘差分析 多元迴歸multiple regression 多元迴歸 multiple regression 複迴歸 利用多個預測變數（自變數）去預測另一依變數 例：以智商、閱讀時間和與他人討論頻率，三個變項來預測學業表現 Y(學業表現)=b1X1(智商)+b2x2 (閱讀時間)+b3x3(討論頻率)+? b1、b2、b3三個迴歸係數代表X1(智商)、 x2 (閱讀時間)、x3(討論頻率)三個變項對Y的預測能力 多元迴歸同時處理多個迴歸係數，必須考慮預測變項之間是否有共變關係存在，因為預測變項間之共變關係將影響迴歸係數之計算，必須加以控制 設有k+1個變數，Y和X1, X2 , … , Xk，其中Xi ，i=1,2,….,k，為k個自變數（或獨立變數），是一種能事先準確觀測的變量（即可忽略其誤差）， 因此它們不是隨機變數，而無機率分配的性質。Y為依變數，或「被解釋變數」，是依Xi之值而改變的隨機變數，即當Xi之值為Xij時，Yj亦為一隨機變數，可表示為Yj(即Yj=y| X1j、X2j、… 、 Xkj) 多元迴歸模型的假設是：依變數Y之期望值為自變數Xi ，i=1,2,….,k，之線性函數 設有n 組資料， （ X11、X21、… 、 Xk1,Y1 ） （ X12、X22、… 、 Xk2,Y2 ）….. （ X1n、X2n、… 、 Xkn,Yn ） 則多元線性迴歸模型為： Y1 =?+?1 X11+ ?2 X21+… + ?k Xk1+?1 Y2 =?+?1 X12+ ?2 X22+… + ?k Xk2 +?2 （1） …. Yn =?+?1 X1n+ ?2