多元线性模型估计.docVIP

2.4 多元线性回归模型 前面介绍了简单线性回归模型，但在实际中，众多的经济现象之间的关系并非这样简单，往往是具有多方面的相互联系，总是涉及到多变量之间的关系，是多元线性关系，甚至是非线性关系，在这种情况下，就不能把复杂的经济现象过于简单地表述成一元线性回归模型。对于这类问题的解决办法就要用到多元线性回归模型或非线性回归模型。 2.4.1二元线性回归模型（具有两个解释变数的模型） 2.4.1.1模型(Model) 多元线性回归模型是由两个以上变量构成的模型，是一元线性回归模型推广。最简单的多元回归模型是二元线性回归模型，它包含两个自变量一个因变量。二元线性回归模型的形式是： Y=+X1+X2+ui （2.4.1-1） 与一元线性回归模型相类似，总体回归模型可以由样本回归Y=+X1+X2+ei （2.4.1-2） 来估计回归方程式 =+X1+X2 （2.4.1-3） （2.4.1-3）式是（2.4.1-1）式的最佳估计。 2.4.1.2模型的参数估计 二元回归模型的参数估计与一元线性回归模型具有相同的原理，亦是采用误差平方和最小之准则。 = = 取最小的、、的值。 取极小值的条件是： =0 =0 =0 （2.4.1-4） = = （2.4.1-5） = 即 （2.4.1-6） （2.4.1-6）式是解、和的正规方程。写成矩阵形式： （2.4.1-7） 通过解 （2.4.1-6）或（2.4.1-7）式，可求出总体参数的估计值、、。 （2.4.1-6） 式也可用离差的形式表示：（推导见附录2.4A） （2.4.1-8） 其中x1=X1－ x2=X2－ y= 由（2.4.1-8）中的第二和第三个组成的联立方程解出、，代入该方程组的第一个方程解出。 2.4.1.3偏相关系数和复相关系数 偏相关系数和复相关系数是用于多元线性回归模型的两个统计量。 偏相关系数含义 是衡量在假设其它变量者保持任何两个变量之间相关程度的不变的情况下。 例如某避暑旅游地暑期冷饮料的消费量与旅游者人数和天气状况的关系： Y——饮料消费量 X1——旅游人数 X2——天气状况 根据先验的理由，旅游的人数多，饮料消费量大，反之，饮料消费多少，但又受天气影响。如果天气炎热，旅游人数就多，反之人数就少。为了衡量Y与X1或X2的真实相关，就要借助于偏相关系数。 表示Y与X1之间的偏相关系数，即在考察Y与X1的相关性时，把X2看成常数保持不变，排除X2的影响。 表示Y与X2之间的偏相关系数。把X1看成是常数保持不变，排除X1的影响。 偏相关系数是由处在多种关系中的各种变数间的简单相关系数决定的，对于具有两个自变量的回归模型，偏相关系数的计算公式是(公式推导见附录2.4B)： Y和X1之间相关系数，排除X2的影响 （2.4.1-9） Y和X2之间相关系数，排除X1的影响 （2.4.1-10） 偏相关系数的应用 偏相关系数的应用目的在于，确定建立模型时所用的自变量，根据偏相关系数的大小，可以判断哪些自变量因对变量影响较大，而选择作为重要的变量保留在模型，哪些自变量对因变量的影响较小，则应在建立模型时不予考虑。这样在建立多元回归模型时，应有重点地选择对因变量相关性较大的自变量。这一步工作可以在建模之前做。 2.4.1.4二元回归问题的方差分析和判定系数 回归方差分析 多元线性回归方差分析是一元线性回归的方差分析的推广，其原理类同，也是通过对Y的离差平方和的分解来进行的。 Y的离差平方和可表示为： （2.4.1-11） （2.4.1-12） 式中，—第次实测值 —n次实测值的均值 n—资料数目，即样本数 叫剩余差，或称残差平方和，通常用符号SSR（sum of squares residuals）表示。 叫回归差，或称被解释的平方和，通常用符号ESS（explained sum of squares）表示。 叫总变差，或称总平方和，通常用符号TSS（total sum of squares）表示。 在实际计算时，也可以来用如下的简便公式(公式推导见附录2.4C)： 回归差：ESS= （2.4.1-13） （2.4.1-13）式是以离差形式表示的，它又可写成下面的形式。 ESS = （2.4.1-14） （2.4.1-15）