§5-1线性回归分析.pptVIP

下 页 上 页 返 回 第五章 线性回归 §1 一元线性回归 §2 多元线性回归 §1 一元线性回归 一、回归分析的基本思想 二、一元线性回归的数学模型 三、可化为一元线性回归的问题 变量之间的关系 确定性关系 确定性关系 身高和体重 一、回归分析的基本思想 不确定性关系 变量 普通变量 随机、模糊、灰色变量 由一个变量确定另一个变量 普通函数 变量间存在着一定的关系(甚至是密切的)，但没有密切到可以由一个确定另一个的程度. 　　相关关系的特征是:变量之间的关系很难用一 种精确的方法表示出来. 例如 (1) 施肥量与农作物的产量； (2) 广告费与商品销售额； (3) 储蓄额与居民收入； (4) 父母的身高与子女的身高； (5) 身高与体重等等. 变量间存在着一定的关系(甚至是密切的)，但没有密切到可以由一个确定另一个的程度. 一般不好直接用函数表示出它们的关系. 此种关系称为相关关系 更加普遍存在。 由于存在测量误差等原因,确定性关系在实际问题中往往通过相关关系表示出来;另一方面,当对事物内部规律了得更加深刻时,相关关系也有可能转化为确定性关系. 确定性关系和相关关系的联系 研究相关关系有两种形式： 一种是以普通变量为自变量，因变量为随机变量， 并且因变量处于被解释地位。 往往利用概率论与数理统计的知识，借助于经验公式对其及其有关问题进行分析，提供变量间相关关系的数学表达式（代数式），并判断其有效性。 然后进行预测和控制。 回归分析就是其中应用最广泛、最活跃的分支之一。 分为：一元线性回归、多元线性回归、可线性化的非线性归（双曲线、指数、对数、二次、幂函数等） 第二种是揭示两个随机变量之间的相关关系。 相关分析就是其中的分支之一，它与回归分析的方法与侧重点均不同。 二、一元线性回归的数学模型 问题（如身高等） （参数的估计， 适用性判断及如何利用估计） 建立数学模型 对模型分析 用模型对数据进行分析 根据分析结果进行预测与控制 1. 解决问题的过程 在农业生产中小麦的亩产量Y与所施肥料量x有一定关系，在一定范围内，若施肥量大，亩产也较高，问题： Y是怎样依赖施肥料量x的变化的。 2. 基本方法 考察随机变量Y与普通变量x之间的相关关系. 例1 问题的特征： x是普通变量, Y是随机变量. 处理方法： 按数理统计处理问题的方法。 (1) 先进行一些试验，分别取不同的值 在其他条件不变的情况： Y也得到n个相应观察值 得到n对数据对，称为样本数据点。 又称为回归观察值： (2) 散点图 (2) 散点图 Y x o · · · · · · · · · · · · · · · · · · · · 有时也可以由专业知识直接推测它们的规律. (3) 寻找Y与x的数量关系： 其中 一般地： 即可设 希望通过试验样本点数据确定上式中的未知参数，确定Y与x的关系，然后进行检验、预测、控制等. 3. 回归模型 设Y与x服从线性关系 则称Y与x服从一元线性回归模型或一元正态回归模型. 例2 下表给出了12个父亲和他们长子的身高的观察值 67 67 65 64 66 63 70 71 68 69 71 68 65 66 68 70 66 62 69 68 68 67 68 65 儿子的身高y 父亲的身高x 问父亲和他们长子的身高的关系如何? 解 散点图 单位(英寸in.) 1英寸in=0.0305米 例2 下表给出了12个父亲和他们长子的身高的观察值 67 67 65 64 66 63 70 71 68 69 71 68 65 66 68 70 66 62 69 68 68 67 68 65 儿子的身高y 父亲的身高x 问父亲和他们长子的身高的关系如何? 解 (1) 散点图 如左图 (2) Y与x具有线性关系 如何确定待定参数？ 单位(英寸in.) (3) 用Excel 确定待定参数 此为Y关于x的线性回归方程. 结果表明:高个子父辈有高个子后代,但后代的增高并不与父辈增高等量. 还要检验 4. 回归方程 设Y与x服从线性关系 问题： 5. 参数估计方法 最小二乘估计法 即 利用求多元函数极值的方法 又记 有唯一解 5. 参数估计方法 的唯一解 又记 5. 参数估计方法 6. 参数估计量的分布 无偏估计 无偏估计 6. 参数估计量的分布 无偏估计 不是无偏估计 无偏估计 定理 7. 回归方程显著性的检验(回归系数显著性的检验) 需要检验 假设 方法： 引进记号 从而 反映了Y与x关系 反映了随机误差的影响 平方和分解式 7. 回归方程显著性的检验(回归系数显著性的检验) 假设 在H0为真时 假设 7. 回归方程显著性的检