回归2数学建模.pptVIP

10.0 回归分析简介 1、 一元回归分析模型 2、 回归系数的最小二乘估计 3、 回归估计的统计推断 4、 预测 5、 多元回归分析 变量间的关系 确定性关系或函数关系y=f(x) 人的身高和体重 家庭的收入和消费 商品的广告费和销售额 粮食的产量和施肥量 股票的价格和时间 学生的期中和期末考试成绩,… 非确定性关系 如果对于任何已知的x值,变量y和按某个概率取某些特殊的值,则x和y之间的关系为随机的. x Y 实变量 随机变量 非确定性关系 1、 一元回归分析模型 (x,y) 采集样本信息(xi,yi) 回归分析 散点图 回归方程 回归方程的显著性检验 对现实进行预测与控制 基本思想 如果数学关系式描写了一个变量与另一个变量之间的关系，则称其为一元回归分析； 如果数学关系式描写了一个变量与另多个变量之间的关系，则称其为多元回归分析，并且称这一个变量是被影响变量（因变量：Dependent Variable）; 称这多个变量是影响变量(自变量:Independent Variable）. 回归分析是根据变量观测数据分析变量间关系的常用统计分析方法. 通常把变量观测数据称为样本. 某市场在t时刻黄瓜销量的数据如下(其中qt表示t时刻销售黄瓜的数量,单位为:斤,pt表示t时刻的销售价格,单位为:元）： 这是一个确定性关系: 例如 若x、y之间的关系是随机的，例如 这时，方程的形式为 称为随机扰动或随机误差项. 其中 为随机变量. 对于回归模型，我们假设： 可得到： 如果给出a和b的估计量分别为 ，则经验回归方程为： 一般地， 称为残差， y称为因变量，x称为自变量， 称为随机扰动，a,b称为待估计的回归参数，下标i表示第i个观测值。 两个变量之间的线性关系，其回归模型为 残差 可视为扰动 的“估计量”。 设对y及x做n次观测得数据(xi ,yi) (i=1,2,…,n ). 以(xi ,yi)为坐标在平面直角坐标系中描点,所得到的这张图便称之为散点图. 若散点呈直线趋势,则认为y 与x的关系可以用一元回归模型来描述. 设线性回归方程为 Y=a + bx+ε 其中:ε是随机误差, ε～N(0,σ2). 将(xi,yi) (i=1,2,…,n)逐一代入上式: 2、 回归系数的最小二乘估计 二元函数 的最小值点 称为a,b的最小二乘估计(简记为OLSE ). 记 其中 所以方程组有解,解得 其中 即最小二乘估计所得回归方程为 例1 某市场连续12天卖出黄瓜的价格和数量的调查数据如下： 试求：黄瓜销量对价格的回归方程. 1．a,b 的点估计 （1）估计量 分别是a,b的无偏估计量； （2）由于 均为相互独立正态变量 的线性组合，根据正态分布的性质，它们也一定是正态的。 2．a,b 的点估计的方差 （2）自变量x的值越分散， 的方差越小. （1）扰动εi的方差σ2越大， 的方差也越大. (3) 当 时, 的方差最小. 3、 回归估计的统计推断 总体方差 的一个无偏估计量是： 它们的算术平方根分别称为a,b的估计标准误差。 3． 的点估计和a,b的估计标准误差 得到 方差的无偏估计量分别是： 4. a和b的区间估计 置信水平为 的区间估计是： 5． 的区间估计 计算得 所以, 记 则 的置信水平为 的区间估计是： =0 6．y的样本变差的分解 其中 故 反映了回归自变量变差的贡献 反映了其它因素的影响 回归平方和 残差平方和 离差平方和=回归平方和+残差平方和 即 SST = SSR + SSE 称R2=SSR/SST为判定系数,它度量了经验回归方程对 观测数据的拟和程度. 0≤R2≤1,它的值越大,表明因变量与自变量之间的相关性越强. 提出原假设和备择假设 H0:b=0; H1:b≠0 (2) 选择检验统计量 (3) 对于给定的显著性水平α,当 时就拒绝H0,认为回归方程有显著意义. 7．回归方程的显著性检验 或者 提出原假设和备择假设 H0:b=0; H1:b≠0 (2) 选择检验统计量 (3) 对于给定的显著性水平α,当 时就拒绝H0,认为回归方程有显著意义. 注 以上两种方法检验结果相同, 后