简单线性回归.docVIP

我的豆丁文档 专业文档 PAGE 1 我的豆丁文档 专业文档 页脚 簡單線性迴歸 決定性與隨機性模型 本章我們要探討兩個數值變數之關係。 例題 9.1.1 (a) 在物理上我們知道 ，能量，質量，光速 ，力，質量，加速度 ，華氏溫度，C =攝氏溫度 在經濟學裡，生產成本 ，基本營運支出，像房租，保險，機器折舊等，生產一單位之原料與勞動力成本，生產數量 在上述兩例中變數之關係為決定性(deterministic)關係，若知道之值，就能準確算出之值。但在現實生活裡，許多變數間之關係並非決定性關係。 例題9.1.2 (a) 麻醉藥量與血壓之關係 一家公司的廣告支出與營業額之關係 期中考成績與期末考成績之關係 父親身高與子女身高之關係 氣溫與用電量之關係 上述5例中與之關係為隨機性(probabilistic)關係，同樣的值並不一定能對應到同樣的值，換言之，我們知道並不能準確算出的值，因為除了外，還有許多其他因素會影響的值。處理這類變數間有隨機性關係的問題，一個常用的方法為迴歸分析，這是本章要探討之主題。 迴歸模型 假設有兩個變數，它們之關係為隨機性，我們要利用收集到的資料來構建一個連接兩變數之數學模型,稱為迴歸模型。 構建這類模型的目的有二，其一個是試圖了解與間概略之函數關係型態，它們是線性、曲線、週期性或其他數學關係；另一目的是希望根據這模型，對某特定之值來預測其所對應的的值。 之觀察值通常是藉由以下兩種方法產生：一種是同時觀察值，這種方法適用於服從一個二維分佈，像例題9.1.2 (c),(d),(e)，的觀察值可藉由這方法產生。另一種方法是先控制在不同的值，然後觀察在這些不同值的反應值，例題9.1.2 (a),(b)可藉由這方法產生的觀察值。 在迴歸模型中, 稱為自變數(independent variable)或輸入變數(input variable)，稱為因變數(dependent variable)或反應變數(response variable)。 我們假設反應變數是一個的決定性函數與一隨機項之和，即y = ，顯示能影響之變化的部分，該函數裡可能含有未知參數。隨機項涵蓋所有除以外影響反應值的因素，對之變化的影響，由於這些因素的不確定性，我們假設其影響量為隨機，並假定之期望值為0，變異數為。 在本章我們假定為一個之線性函數即，,為未知參數，則連接與之模型為，這模型稱為簡單線性迴歸模型(simple linear regression model)，其中，=。若我們假設之分佈為常態，則之分佈為。假我們有n對觀察值：,···,,則之分佈為, i= 1,···,n。 換言之，上述n個y之觀察值是從n個獨立的常態母群體取得其平均數與其所對應之值有線性關係，亦即這n個常態母群體之期望值落在一條直線 上，此直線稱為母群體迴歸線(population regression line)，如圖9.2.1。 因因有兩個未知參數，故它是一條未知直線，迴歸分析的一個重要的目的就是要根據,···,做有關之統計推理。 Probability Distribution of Regression Line 70 Probability Distribution of Regression Line 70 50 30 0 Y 圖9.2.1 9.3最小平方法 假設我們有n對觀察值,···,。第一步是先將,···,標在一座標平面上（稱為散佈圖,scatter diagram or scatter plot)，從圖先目測看y與x概略而言是否可合理的假定其為一線性關係。 y . . . x . x 假設y與x之關係可接受為線性，第二步我們就要估計。在此我們採用的方法是求，使 為最小，這方法稱為最小平方法(method of least squares)，而所得之估計量稱為最小平方估計量(Least Squares Estimator, LSE)。 令 則 要使 最小，我們必須取 ， 。 上述求的過程，我們利用配方法，如果你學過微積分，則與之最小平方估計量可由解下列聯立方程式求得: 即 令分別表與之最小平方估計量，即 以表示之估計量（此符號常