多元回归分析导论.ppt

中級社會統計 第十三講 複迴歸分析 複迴歸分析 前面我們學到只有一個自變項的簡單迴歸分析 我們知道一個地區的人均病床數會影響到該地區的平均餘命 我們也知道一個地區的人均教育支出會影響該地區的平均餘命 但是如果教育支出相等的條件下，醫療資源的多寡會不會影響平均壽命？兩者孰輕孰重？ 控制的概念（在其他條件不變的情況下） 複迴歸分析 研究兩個或兩個以上的IV對DV的影響的分析方式，稱為複迴歸分析（multiple regression analysis） 又稱多元迴歸分析 迴歸方程式 多元迴歸Multiple Regression Models 統計成績與努力（所花時間）的關係如下： 多元迴歸Multiple Regression Models 兩者的迴歸線： 多元迴歸Multiple Regression Models 將學生對於數理科目的興趣納入考量發現： 多元迴歸Multiple Regression Models 如果我們針對具有相同興趣水準的學生來考量努力與成績的關係，則可以分別用三個迴歸線來表達： 多元迴歸Multiple Regression Models 這三條線的斜率似乎沒有原本迴歸線來得大，表示努力與成績的關係有一部份是受到興趣的干擾(confounding): 有興趣的學生通常花比較多的時間 多元迴歸Multiple Regression Models 此時利用多元迴歸比簡單迴歸可以算出三條簡單迴歸的「平均斜率」。 多元迴歸Multiple Regression Models 多元迴歸用來分析一個以上自變數對於依變數的影響，可以看出「其他變數不變（常數）」的條件下，某一個變數對於依變數產生的「淨」影響為何？ Partial Derivative偏微分觀念 經濟學說我們對於某商品的需求量與價格及所得有關： Partial Derivative偏微分觀念 因為價格變動所造成的商品需求變動可以表為： Partial Derivative偏微分觀念 Partial Derivative偏微分觀念 多元迴歸的參數推估 求多元迴歸x1與x2的係數？ The Normal Equation The Normal Equation The Normal Equation Basic Rules for Differentiation Rule 8: the chain rule Example of chain rule 微分求迴歸係數 The Normal Equation The Normal Equation The Normal Equation The Normal Equation Normal Equations in Reduced Form Normal Equations in Reduced Form Normal Equations in Reduced Form 一般化迴歸模型的假設條件 依變數Yi為隨機變數，自變數（Xi,i=1,…,k）為預先選定的變數。 Zero Mean: E(ei)=0 Homoscedasticity: ?e2 is the same for all value of independent variable. Normality: ei為常態分配 No serial correlation: E(eiej) =0, i ? j Independent of ei and xij: E(eixij)=0 一般化迴歸模型的假設條件 No perfect multicollinearity: it is not possible to find a set of numbers c0, c1, …ck such that The General Multiple Regression Model b0, b1, …bk are the least-squares estimates of β0, β1, …βk that minimize the residual sum of squares: Estimated Standard Error of Regression 如同在簡單迴歸中，為了要做假設檢定，我們必須要估計?e2 。 在簡單迴歸中，我們知道S2e=SSE/(n-2)為?e2 的不偏估計式。 同理，在複迴歸中， S2e=SSE/(n-(K+1))為?e2 的不偏估計式。其中n為樣本數，(K+1)為所欲估計的未知數（即K個自變數加上一個常數項）。 Estimated Standard Error of Regression SSE的一般性公式： Partition of Total Sum of Squares Partition of Total S