人教版高中数学(理科)选修线性回归课件2.ppt

簡 單 線 性 迴 歸 授課者:張甫 課 程 大 綱 簡 介 迴歸分析是一種利用兩個或多個數量型變數間的關係。 使其中一個變數可用另一個或其他多個變數預測的統計方法。 迴歸分析被廣泛地應用在商業， 社會及行為科學， 及其他領域中。 簡 介 歷史起源 : 迴歸分析最早是19世紀末期高爾登(Sir Francis Galton)所發展，他研究父母與子女身高的關係，發現不論父母身高的高或矮，其子女身高有回覆或迴歸至群體平均水準的傾向，此種迴歸傾向的數學描述方法，即今日迴歸模型的前身。 基本概念: 迴歸模型是下列兩基本要素的正式表示法 1. 反應變數Y隨預測變數X作系統性變動的傾向。 2. 資料點在關聯曲線周圍散布。 一、迴歸模型與其假設 描述一個自變數與一個應變數之間的線性關係，其模型可以假設為： 其中，X視為已知常數，β0 、 β1為參數(parameter)，而對於誤差項(error term)的假設為： (1) 誤差項的均數為0： (2) 誤差項的變異數為固定常數： (3) 誤差項兩兩之間為不相關(uncorrelated)： 一、迴歸模型與其假設 迴歸模型的另一種表現式： 二、迴歸參數估計與相關估計量 對於迴歸參數的估計，我們採用兩種不同的方法來進行，其分別為 (1)最小平方法(Least Square Method) 。 (2)最大概似法(Maximum Likelihood Method)。 Method 1：最小平方法 最小平方法的精神是：在與之值各為何時，會使『誤差的平方和達到最小』，即 於是可利用微積分的方法來進行求解。 Method 1：最小平方法 令 ，所以問題可以變成 。利用微積 分的方法，我們可以知道函數 的極值必發生在 。 Method 1：最小平方法 由上解出 Method 1：最小平方法 要確認二階判別式恆大於0 殘差(Residual) 定義：第i項殘差表示為 。 特性： (1) (2) 必有最小值 (3) (4) Method 2：最大概似法 在採用最大概似法之前，必須再加上一個假設，就是誤差項必須符合常態假設 則可得 Method 2：最大概似法 最大概似法的精神 ：參數值各為何，會使得概似函數有極大 。 最大概似法所求得之估計量記為： 之概似函數 Method 2：最大概似法 對概似函數取對數之後可得： Method 2：最大概似法 概似函數有極大即等同於ln(概似函數)求極大。 對 之極值發生在 Method 2：最大概似法 由上式一階偏微分等於零的式子中，可以整理出： 所以可以求得 ： Method 2：最大概似法 假設誤差項為常態的直觀想法： 因為誤差項包含很多其他雖會影響，但是卻沒有被考慮在模型當中的因素；因此，誤差項可以視為這些因素的加總，於是依據中央極限定理可以得知，當影響的其他未考慮因素各數多時，誤差項將會趨近於常態。 三、迴歸分析的統計推論與相關問題及檢定 有關的 統計推論： 在簡單線性迴歸的問題當中，對 最有興趣。因為我們主要想了解 的關係是否存在？即 X與Y的線性關係是否存在？ 對於 的意義： (1) X與Y沒有任何的線性關係。 (2) 在不同X的水準而言，Y的機率分配是相同的。 三、迴歸分析的統計推論與相關問題及檢定 b1的抽樣分配： (1) (