多元线性回归分析课件.ppt

多重線性回歸分析——多元線性回歸分析

8.7.1多元線性回歸模型多元回歸模型與回歸方程估計的多元回歸方程參數的最小二乘估計

多元回歸模型與回歸方程

多元回歸模型

(multipleregressionmodel)一個因變數與兩個及兩個以上引數的回歸描述因變數y如何依賴於引數x1，x2，…，xp和誤差項?的方程，稱為多元回歸模型涉及p個引數的多元回歸模型可表示為b0，b1，b2，?，bp是參數?是被稱為誤差項的隨機變數y是x1,，x2，?，xp的線性函數加上誤差項??包含在y裏面但不能被p個引數的線性關係所解釋的變異性

多元回歸模型

(基本假定)誤差項ε是一個期望值為0的隨機變數，即E(?)=0對於引數x1，x2，…，xp的所有值，?的方差?2都相同誤差項ε是一個服從正態分佈的隨機變數，即ε~N(0,?2)，且相互獨立

多元回歸方程

(multipleregressionequation)描述因變數y的平均值或期望值如何依賴於引數x1，x2，…，xp的方程多元線性回歸方程的形式為E(y)=?0+?1x1+?2x2+…+?pxpb1，b2，?，bp稱為偏回歸係數bi表示假定其他變數不變，當xi每變動一個單位時，y的平均平均變動值

二元回歸方程的直觀解釋二元線性回歸模型(觀察到的y)回歸面?0?ix1yx2(x1,x2)}

估計的多元回歸方程

估計的多元回歸的方程

(estimatedmultipleregressionequation)是估計值是y的估計值用樣本統計量估計回歸方程中的參數時得到的方程由最小二乘法求得一般形式為

參數的最小二乘估計

參數的最小二乘法求解各回歸參數的標準方程如下使因變數的觀察值與估計值之間的離差平方和達到最小來求得。即

參數的最小二乘法

(例題分析)【例】一家大型商業銀行在多個地區設有分行，為弄清楚不良貸款形成的原因，抽取了該銀行所屬的25家分行2002年的有關業務數據。試建立不良貸款(y)與貸款餘額(x1)、累計應收貸款(x2)、貸款專案個數(x3)和固定資產投資額(x4)的線性回歸方程，並解釋各回歸係數的含義用SPSS進行回歸

8.7.2回歸方程的擬合優度多重判定係數估計標準誤差

多重判定係數

多重判定係數

(multiplecoefficientofdetermination)回歸平方和占總平方和的比例計算公式為因變數取值的變差中，能被估計的多元回歸方程所解釋的比例

修正多重判定係數

(adjustedmultiplecoefficientofdetermination)用樣本容量n和引數的個數p去修正R2得到計算公式為避免增加引數而高估R2意義與R2類似數值小於R2SPSS輸出結果的分析

估計標準誤差Sy對誤差項?的標準差?的一個估計值衡量多元回歸方的程擬合優度計算公式為SPSS輸出結果的分析

8.7.3顯著性檢驗線性關係檢驗回歸係數檢驗和推斷

線性關係檢驗

線性關係檢驗檢驗因變數與所有引數之間的是否顯著也被稱為總體的顯著性檢驗檢驗方法是將回歸離差平方和(SSR)同剩餘離差平方和(SSE)加以比較，應用F檢驗來分析二者之間的差別是否顯著如果是顯著的，因變數與引數之間存在線性關係如果不顯著，因變數與引數之間不存在線性關係

線性關係檢驗提出假設H0：?1??2????p=0線性關係不顯著H1：?1，?2，?，?p至少有一個不等於02.計算檢驗統計量F3.確定顯著性水準?和分子自由度p、分母自由度n-p-1找出臨界值F?4.作出決策：若FF?，拒絕H0SPSS輸出結果的分析

回歸係數檢驗和推斷

回歸係數的檢驗線性關係檢驗通過後，對各個回歸係數有選擇地進行一次或多次檢驗究竟要對哪幾個回歸係數進行檢驗，通常需要在建立模型之前作出決定對回歸係數檢驗的個數進行限制，以避免犯過多的第一類錯誤(棄真錯誤)對每一個引數都要單獨進行檢驗應用t檢驗統計量

回歸係數的檢驗

(步驟)提出假設H0：bi=0(引數xi與因變數y沒有線性關係)H1：bi?0(引數xi與因變數