估计的简单线性回归方程式.ppt

標準化殘差 大部分電腦軟體提供的殘差圖是使用標準化殘差。我們在前幾章談過，可以將隨機變數減去平均數再除以其標準差，即將隨機變數標準化。運用最小平方法，殘差的平均值是 0 。因此，只要將每個殘差除以其標準差就可得到標準化殘差 (standardized residual) 。 * 第14章 簡單線性迴歸 第541頁 第 i 個殘差的標準差 其中 第 i 個觀察值的標準化殘差 標準化殘差 s = 估計值的標準誤 * 第14章 簡單線性迴歸 第541-542頁 標準化殘差 * 第14章 簡單線性迴歸 第542頁 標準化殘差 * 第14章 簡單線性迴歸 第543頁 常態機率圖 另一個決定「誤差項是常態分配」的假設是否有效的方法為常態機率圖(normal probability plot) 。為了說明如何繪製常態機率圖，我們先介紹常態分數(normal scores) 的概念。 假定我們由平均數 0、標準差 1 的常態機率分配中隨機抽取 10 個值，並將 10 個數由小到大排列，而且抽樣過程不斷重複。我們現在只考慮每組樣本中的最小值。表示重複抽樣過程中每組樣本的最小值的隨機變數稱一階統計量 (first-order statistic)。 * 第14章 簡單線性迴歸 第543頁 常態機率圖 統計學家已證明，對於來自標準常態機率分配，樣本大小為 10 的隨機樣本而言，一階統計量的期望值是?1.55。這個期望值稱為常態分數。如果樣本大小為 10，就有 10 階的統計量，以及 10 個常態分數 (見表 14.9)。一般而言，如果資料集有 n 個觀察值，就有 n 階統計量及 n 個常態分數。 * 第14章 簡單線性迴歸 第543頁 常態機率圖實例 我們現在要說明，如何用 10 個常態分數來決定亞曼披薩屋的標準化殘差是否來自標準常態機率分配。先將表 14.8 的 10 個標準化殘差排序，並將排序後的標準化殘差及常態分數都列於表 14.10。若常態分配的假設成立，最小的標準化殘差應該很接近最小的常態分數，次小的標準化殘差應該很接近次小的常態分數，依此類推。 若以常態分數為橫軸，對應的標準化殘差為縱軸，在圖上以點表示，如果標準的亞曼披薩屋之常態分數及排序後標準化殘差趨近常態分配時，資料點應聚集在通過原點呈 45 度的直線附近。此圖形排序後稱為常態機率圖 (normal probability plot) 。 * 第14章 簡單線性迴歸 第543頁 常態機率圖實例 * 第14章 簡單線性迴歸 第543頁 常態機率圖實例 圖 14.14 是亞曼披薩屋的常態機率圖。我們要判斷圖形與 45 度線的偏差，是否足以讓我們認為標準化殘差不是來自標準常態機率分配。圖 14.14 的點十分靠近 45 度線，因此我們的結論是「誤差項呈常態分配的假設」是合理的。 通常，點愈靠近 45 度線，支持常態分配假設的證據就愈強。任何常態機率圖若呈現相當程度的彎曲，即為殘差項不是常態分配的證據。利用 Minitab 之類的統計軟體可以輕易得到常態分數與對應的常態機率圖。 * 第14章 簡單線性迴歸 第543-544頁 常態機率圖實例 * 第14章 簡單線性迴歸 第544頁 評註 我們用殘差及常態機率圖來驗證迴歸模型的假設是否成立。如果檢驗的結果顯示，有一個或更多的假設是有問題的，就應該考慮使用另一個迴歸模型或者將資料的形式進行轉換。迴歸模型的假設不成立時，該採取何種修正行動，需要分析人員的良好判斷，經驗豐富的統計人員的建議是很有價值的。 殘差分析係統計學者用以驗證迴歸模型之假設是否成立的最主要方法。即使在不違反任何假設之情形下，亦不意謂此模型就能做出良好的預測。不過，假如還有統計檢定能支持顯著關係存在的結論且判定係數很大，則可藉由此估計迴歸方程式做出良好的估計與預測。 * 第14章 簡單線性迴歸 第544頁 14.9 殘差分析：離群值及具影響力 的觀察值 偵測離群值 偵測具影響力的觀察值 * 第14章 簡單線性迴歸 第546-548頁 偵測離群值 圖 14.15 是有一個離群值 (outlier) 的資料集的散布圖。所謂離群值是指不符合其餘資料所表現的趨勢之資料點 (觀察值) 。 離群值代表值得懷疑或須經仔細檢查的觀察值。它可能是錯誤的資料，若是如此，此資料應被更正。它們也可能意味著模型的假設不成立；若是如此，則應考慮其他模型。 最後，它們也可能僅是偶爾發生的不尋常值，在此情形下，則應該被保留。 * 第14章 簡單線性迴歸 第546頁 偵測離群值 * 第14章 簡單線性迴歸 第546頁 偵測離群值實例 為了說明偵測離群值的過程，我們考慮表 14.11 的資料集；圖 14.1