简单回归分析及相关理论.pdf

第十二章: 簡單迴歸分析及相關理論 Mei-Yuan Chen Department of Finance National Chung Hsing University February 19, 2013 M.-Y. Chen 簡單迴歸 相關理論 在統計上, 分析變數間的關係是屬於多變量分析(Multivariate Analysis)的範疇, 當然有許多分析方法探討變數間的關係, 而相 關分析(Correlation Analysis)和迴歸分析(Regression Analysis)是最常用的兩種。 在這一章中, 我們首先討論相關分析 對於變數間關係的探討, 以作為往後章節討論迴歸分析的基礎。 M.-Y. Chen 簡單迴歸 相關性(Correlation) 相關性(Correlation)可用來說明兩個或許多個變數間的相關程 度; 兩個變數間的相關程度稱為簡單相關(simple correlation), 而三個或三個以上變數間的相關程度則稱為複相關(multiple correlation); 在本章節中, 我們先討論兩個變數間的相關程度。 就兩個隨機變數而言, 其間可能存在線性(linear)與非線 性(nonlinear)的關係, 而不論是線形或非線性的關係, 均可分 為正相關(positive correlation), 負相關(negative correlation)和無相關(no correlation)。 M.-Y. Chen 簡單迴歸 假設兩個變數X 和Y 定義於一個隨機實驗 (experiment) 裡可能 出象 (outcome) 中的兩個特徵, 而以(x, y)表示每一次試驗 (trial) 所成對出現的該兩個特徵的出象而被X 和Y 定義的實現 值; 若成對出現的實現值(x, y)存在較大的x值總是伴隨著較 大y值的出現, 則稱這兩個變數X 和Y 為線性正相關(linear positive correlation), 而若成對出現的實現值(x, y)存在x值 與y值的一對一關係, 則稱為完全線性正相關(perfect linear positive correlation); 反之, 若成對出現的實現值(x, y)存在較大 的x值總是伴隨著較小y值的出現, 則稱這兩個變數為線性負相 關(linear negative correlation), 而若x值與y值存在一對一的關 係, 則稱X 和Y 為完全線性負相關(perfect linear negative correlation); 最後, 若x值與y值的大小不存在正相關或負相關則 稱為線性無相關或線性零相關(zero linear correlation); M.-Y. Chen 簡單迴歸 然而, 在此我們必須提出的是, 若成對出現的實現值(x, y)呈現如 圖的圖形, 很明顯地, 這兩個隨機變數X 和Y 是相關的, 只是其間 的關係呈現一個圓形關係, 因此, 我們不能說X 和Y 存在零相關。 若我們限定X 和Y 為線形關係的討論時, 則如圖的實現 值(x, y)將歸類為零相關, 但在非線形關係下, 將歸類為有相關。 M.-Y. Chen 簡單迴歸 兩個變數X 和Y 間的共變異數cov(X, Y )定義為 cov(X, Y ) = E [(X − E (X ))(Y − E (Y ))]. 由前述相關性的定義, 我們知道若X 和Y 為正相關, 則絕大部份 的實現值(x, y)呈現出 1. x − E (X ) 0伴隨著y − E (Y ) 0, 因而使 得(x − E (X ))(y − E (Y )) 0, 或者, 2. x − E (X ) 0伴隨著y − E (Y ) 0, 因而使 得(x − E (X ))(y − E (Y )) 0。