可人为改变可控因素.pptVIP

§3 一元线性回归 */26 第九章 方差分析及回归分析 可人为改变(可控因素) 化工产品苯酚的产率记为 影响产率的五个主要 因素有 温度 时间 压力 催化剂种类 碱液用量 、 、 、 、 随各 的变化而变化,即 是因变量 即使各 相同 的值也不完全相同,故 是 即有 对回归函数 进行统计推断 一般地, 未知,如何确定 是普通函数,表示 与各 之间的确定性关系 不可观测的随机误差 可用函数 表示 带有随机性,不能用确定的函数表示 人的身高 与体重 之间存在一定关系 人的年龄 与血压 之间存在一定关系 某地温度 与湿度 之间存在一定关系 广告投入 与销量 之间存在一定关系 复习时间 与成绩 之间存在一定关系 x、y 之间存在一种随机的相依关系 可以任意给定，或可以控制，或可以观察的量 随着 的变化而变化，即使对于相同 的值， 的取值也不相同，因而 是r.v 称 为自变量，或控制变量 称 为因变量，或响应变量 研究自变量与因变量之间的相关关系。 变量的特点 回归分析研究的内容 考虑人的身高 与体重 之间的关系： 当 固定时，有 当 不同时， 的平均值 也不同 ,即有 故有 或写为 称上式为回归模型， 称为回归函数 研究 与 之间的相关关系 研究回归函数 回归一词是英国著名人类学家和气象学家高尔顿于1885年引入的.在“身高遗传中的平庸回归”的论文中,高尔顿阐述了他的重大发现：虽然高个子的先代会有高个子的后代,但子代的身高并不象其父代,而是趋向于比他们的父代更加平均,就是说如果父亲身材高大,则子代的身材要比父代矮小一些；如果父亲身材矮小,则子代的身材要比父代高大一些.换言之,子代的身高有向平均值靠拢的趋向.因此,他用回归一词来描述子代身高与父代身高的这种关系. 是自然界的一种现象,是一种自然规律. 设儿子身高为 ,父亲身高为 英国著名统计学家皮尔逊等人搜集了上千个家庭成员的身高数据,分析得出 ,它们具有相关关系 假设 为线性函数,即有 (单位:英寸) 故有 儿子身高 与父亲身高 的回归模型 170cm 175cm 180cm ，即设 则得到一元线性回归模型 未知,怎样求回归函数？ 通常假设 为一多项式 最简单的假设是设 为线性函数 估计回归函数 估计系数 于是 即怎样估计 ？ 对 作线性假设的数学原理是什么？ 其中 是可观察的控制变量， 是响应变量(r.v)。 与 之间有怎样的关系？ 的影响,测得数据如下 为研究某化学反应过程中,温度 对产品得率 即 具有如下形式 对于一元线性回归模型 未知参数 的点估计是什么？ 线性模型的假设是否符合实际？ 怎样将线性模型用于控制？ 怎样将线性模型用于预测？ 怎样将非线性问题化为线性模型？ ,称 取 的 个不全相同的值 作 次独立试验， 得 的观察值为 为样本. 是否独立？ 是否同分布？ 以后称 为样本 代入线性模型，则有 似然函数为 独立同分布, 记 则 若 全相同，则试验数据只反映随机误差 ,令 记 得正规方程组 不全相同 从而求得 的 MLE 为 的 为 其中 从而得到 的估计为 称为经验回归函数. 为 关于 的经验回归方程(回归方程) 称方程 为计算方便，引入记号 有什么特点 ,即 是样本的线性组合 例 为研究某化学反应过程中，温度 (℃)对产品得率 的影响，测得数据如下 求 关于 的线性回归方程. 解 先计算各数据项 故得 从而得 关于 的线性回归方程为 线性模型 又 故 也满足 中未知参数 的 MLE 满足 从而 是 的 MLE 是 的LSE ( Least Squares Estimation 最小二乘估计) LSE 的几何意义 找使得这些垂直偏差的平方和尽可能小的那条直线 有 对于一元线性回归模型 这说明 越小，则线性回归模型效果越好 上式的实际意义是什么？ 问 用 代替 引起的均方误差 的较好的点估计是什么？ 问 似然函数为 令 求得 的 MLE 为 令 称为残差平方和. 则有 故 的无偏估计为 残差平方和反映了经验回归函 数值 与样本值 的偏差平方和 而 的 MLE 估计是 故 的无偏估计为 下面推导 的计算