第四讲简单线性相关与回归.pptVIP

第四讲 简单线性回归 本讲主题 简单线性回归模型　The Simple Linear Regression Model 最小二乘法　The Least Squares Method 确定性系数　The Coefficient of Determination 模型假设及显著性检验　Model Assumptions and Testing for Significance 用于估计和预测　Using for estimation and Prediction 残差分析　Residual Analysis 现象之间的关系 变量之间的关系 函数关系：变量之间存在着确定的相互依存关系。当自变量取定一个值，因变量就有一个完全确定的量与之相对应。 相关关系：变量之间存在着的数量上的不确定的依存关系。 相关关系包括因果关系 例： 居民收入提高与银行存款上升； 工资增长与价格增长； 父母身高与子女身高； 哥哥身高与弟弟身高； 电话设备投资额与新建筑数量； 产量与单位成本； 受教育年限与工资； 某种商品的价格与销售量。 家庭收入与食物支出额 相关关系的种类 简单相关与复相关 正相关与负相关 线性相关与非线性相关 完全相关，不完全相关，不相关 相关关系的表示法 散点图 相关分析表 相关变量的二元分布 相关系数 相关分析表 工龄与工资的联合概率分布 相关系数 相关系数：是衡量变量之间线性相关密切程度的一个系数。 式中：?XY ：X与Y的协方差； ?X-----变量X的标准差； ?Y-----变量Y的标准差。 相关系数是将协方差进行标准化处理的结果。 相关系数的意义 -1? r ? 1 它是一个系数，不受变量值水平和计量单位的影响。 r0，正相关。散点较为密集地分布在第I和第III象限。 r0, 负相关。散点较为密集地分布在第II和第IV象限。 相关系数的值 r的值越接近1，表示线性相关程度越高。 0 ? |r| ? 0.3 弱相关 0.3 ? |r| ? 0.5 低度相关 0.5 ? |r| ? 0.8 显著相关 0.8 ? |r| ? 1 高度相关 相关系数也与样本容量有关 相关系数的显著性检验 若从一个二元正态总体中随机抽取一个样本，由样本数据算出的相关系数带有随机性。且样本容量越小其随机性越大。相关系数的显著性检验就是通过样本相关系数r对总体相关系数?作出推断。 相关系数的检验 H0：?=0 （总体相关系数为0） 检验统计量 服从t(n-2)分布， 在显著性水平?和自由度n-2下，查表得 t ?/2 ，若 |t|? t ?/2 , 表明r在统计上是显著的，两变量线性相关。 回归分析 回归的概念：回归(Regression)一词源于19世纪英国生物学家葛尔登对人体遗传特征的实验研究。他把人的身高趋向于平均高度的现象称为 “回归”。 相关系数测量变量之间关系的密切程度，如果已知两变量显著相关，我们就希望能从一个变量的取值来推算出另一个变量的取值范围。这就是回归分析。 回归的种类 一元回归与多元回归 线性回归与非线性回归 回归分析涉及的内容 1）从一组数据出发，分析变量间存在什么样的关系，建立这些变量的关系式（回归方程），并对关系式的可信程度进行统计检验； 2）利用回归方程式，根据一个或几个变量的值，预测或控制另一个变量的取值； 回归分析的内容（2） 3）从影响某一个变量的许多变量中，判断哪些变量的影响是显著的，哪些是不显著的，从而可建立更实用的回归方程； 4）根据预测和控制所提出的要求，选择试验点，对试验进行设计。 一元线性回归 一元线性回归的数学模型为 y=?+?x+e y 是随机变量，x是一般的自变量；?和?是两个参数，其数值可根据样本值来估计，e是随机变量，一般假定 e ~ N(0, ?2) 基本假设： 变量X与Y之间存在着真实的线性关系； 变量X为非随机变量，Y为随机变量； 随机项 ei 相互独立。 最小二乘法 确定一条直线，令估计值与实际值的离差平方和为最小。即 对上式的a和b求一阶偏导并令其为0，就可解出最小值点a和b。 最小平方法配合得到的直线，是一条最适线，满足 a和b的含义 a为截距，当数据包括了X=0的范围时，表示X=0时Y的估计值；当数据并不包含X=0时，没有什么实际意义。 b，斜率，回归系数 X每增加一个单位时Y的估计值增加b