第八章一元线性回归分析.doc

§3 一元线性回归分析 客观事物总是普遍联系和相互依存的，它们之间的数量联系一般分为两种类型：一类是确定性关系，即函数关系；另一类是不确定的关系，称之为相关关系．前一类关系我们在数学分析中已进行了大量研究．第二类关系在我们的生活实践中也大量存在，如身高与体重、播种面积与总产量、劳动生产率与工资水平等关系．这些变量之间有一些联系，但没有确切到可以严格确定的程度，即前一个量不能惟一确定后一个量的值．又如，城市生活用电量y与气温X有很大的关系，在夏天气温很高或冬天气温很低时，由于空调、冰箱等家用电器的使用，用电量就高．相反，在春秋季节气温不高也不低，用电量就相对少．但我们不能由气温这一个量准确地决定用电量Y．回归分析就是研究相关关系的一种数学工具，它着重于寻找变量之间近似的函数关系. 8.3.1．回归分析的基本概念 回归分析作为一种统计方法，是利用两个或两个以上变量之间的关系，由一个或几个变量来表示另一个变量．被表示的这个变量往往是我们研究的一个指标变量，常称为因变量或响应变量，记之为．与之有关的另一些变量可记为,,,，称为自变量或预报变量．由,,,可以部分地决定的值，但这种决定不很确切，这种关系就是所谓的“相关关系”．我们可以设想的值由两部分组成：一部分是由,,,能够决定的部分，它是的函数，记为．而另一部分则是由包括随机因素在内的其他众多未加考虑的因素所产生的影响，这一部分的诸多因素不再区别，所造成的对的影响一起被称为随机误差，记之为．于是得到如下模型: Y＝+ 这里是随机变量，一般要求满足某些假定，如＝0，函数称为理论回归函数，它描述了Y随自变量变化的平均擘况． Y＝ 称为回归方程．这种确定的函数关系可用来近似代替复杂的相关关系．回归分析的任务就在于根据和Y的观察值去估计理论回归函数，并讨论与之有关的种种统计推断问题，如假设检验问题和估计问题．回归分析所用方法在相当大的程度上取决于模型的假定． (1)若回归函数的数学形式并无特殊假定，称为非参数回归． (2)假定的数学形式已知，只是其中若干个参数未知，需要通过观测值去估计，称为参数回归．应用上最重要、理论上发展得最完善的是 为线性函数的情形，即 ＝++…+, (8.3.1) 称为“线性回归”．若，则称为一元线性回归． 若根据观测值已估计了,,,，设为,,,，称 ＝+ ++ 为经验回归方程．这里“经验”两字表示这个回归方程是由特定的观测值而得到的． 回归分析的应用，简单地可归纳为以下几个方面： (1)估计回归函数．如考虑亩产量Y与播种量和施肥量的相关关系，需求出Y对, 的回归函数，当给定播种量=，施肥量＝，则 就是平均亩产量的值． (2)预测．当自变量X＝(,,,在取定的情况下，比如＝(，,…,，去预测因变量Y将取的值. Y的预测值往往就取回归函数在(， ,,处的估计(,)． (3)控制．在这类应用中，不妨把自变量解释为输入值，因变量解释为输出值，通过估计出的经验回归方程Y＝(,,,)以调节,,…,的值达到把输出值Y控制在给定的水平的目的． 最后简单介绍一下“回归”这一名称的由来．这个术语是英国生物学家兼统计学家高尔顿(F．Galton)在1886年左右提出来的．他在研究子代的身高与父母的身高的关系时，收集了1078对父母及其成年儿子的身高数据．高尔顿以父母之平均身高X作为自变量，以成年儿子的身高作为因变量，将值标在直角坐标系内，发现二者有近乎直线的关系，总的趋势是增加时倾向于增加，这与人们的常识是一致的．用他的数据可以计算出儿子身高与父母平均身高的经验关系 . (8.3.2) 高尔顿算出1078个值的算术平均值为＝68英寸(1英寸＝2.54厘米)，1078个Y值的算术平均值为69英寸，子代身高平均增加了1英寸．按常理推想，当父母的平均身高为英寸，子代的平均身高也要增加1英寸，即变为英寸，但事实上不然．按(8.3.2)计算，父母身高平均72英寸(注意比平均身高68英寸要高)，子代平均身高为71英寸，而并非73英寸，与父母相比有变矮的倾向．父母身高平均为64英寸(注意比平均身高68英寸要矮)，子代平均身高为67英寸，比预计的64+1＝65(英寸)要多，与父母相比有增高的趋势．这种现象不是个别的，它反映了一般规律．高尔顿对这个结论的解释是：大自然有一种约束力，使人类身高的分布在一定时期内相对稳定而不产生两极分化，这就是所谓的回归效应，人的身高因约束力而“回归于中心”． 正是通过这个例子，高尔顿引入