4多元线性回归模型-受约束.pptVIP

如果有h个约束条件，可得到h个统计量z1,z2,…,zh 约束条件为真时，可建立大样本下的服从自由度为h的渐近?2 分布统计量 其中，Z为以zi为元素的列向量，C是Z的方差-协方差矩阵。 因此，W从总体上测量了无约束回归不满足约束条件的程度。 对非线性约束，沃尔德统计量W的算法描述要复杂得多。 拉格朗日乘数检验 拉格朗日乘数检验则只需估计受约束模型. 受约束回归是求最大似然法的极值问题: ?’是拉格朗日乘数行向量，衡量各约束条件对最大似然函数值的影响程度。 如果某一约束为真，则该约束条件对最大似然函数值的影响很小，于是，相应的拉格朗日乘数的值应接近于零。 因此，拉格朗日乘数检验就是检验某些拉格朗日乘数的值是否“足够大”，如果“足够大”，则拒绝约束条件为真的假设。 拉格朗日统计量LM本身是一个关于拉格朗日乘数的复杂的函数，在各约束条件为真的情况下，服从一自由度恰为约束条件个数的渐近?2分布。 n为样本容量，R2为如下被称为辅助回归（auxiliary regression）的可决系数: 同样地，如果为线性约束，LM服从一精确的?2分布： (*) 一般地有:LM?LR?W Thank you 多元线性回归模型 南开大学数学科学学院 白晓棠 受约束回归 在建立回归模型时，有时根据经济理论需对模型中变量的参数施加一定的约束条件。 如： 0阶齐次性 条件的消费需求函数 1阶齐次性 条件的C-D生产函数 模型施加约束条件后进行回归，称为受约束回归（restricted regression）; 不加任何约束的回归称为无约束回归（unrestricted regression）。 受约束回归 一、模型参数的线性约束 二、对回归模型增加或减少解释变量 三、参数的稳定性 *四、非线性约束 模型参数的线性约束 对模型 施加约束 得 或 (*) (**) 如果对（**）式回归得出 则由约束条件可得： 然而，对所考查的具体问题能否施加约束？需进一步进行相应的检验。常用的检验有： F检验、x2检验与t检验， 下面介绍一下F检验 在同一样本下，记无约束样本回归模型为 受约束样本回归模型为 于是 受约束样本回归模型的残差平方和RSSR 于是 为无约束样本回归模型的残差平方和RSSU (*) 受约束与无约束模型都有相同的TSS 由（*）式 RSSR ? RSSU 从而 ESSR ? ESSU 这意味着，通常情况下，对模型施加约束条件会降低模型的解释能力。 但是，如果约束条件为真，则受约束回归模型与无约束回归模型具有相同的解释能力，RSSR 与 RSSU的差异变小。 可用RSSR - RSSU的大小来检验约束的真实性 于是： 如果约束条件无效， RSSR 与 RSSU的差异较大，计算的F值也较大。 于是，可用计算的F统计量的值与所给定的显著性水平下的临界值作比较，对约束条件的真实性进行检验。 注意，kU - kR恰为约束条件的个数。 例 中国城镇居民对食品的人均消费需求实例中，对零阶齐次性检验： 取?=5%，查得临界值F0.05(1,10)=4.96 判断：不能拒绝中国城镇居民对食品的人均消费需求函数具有零阶齐次特性这一假设。 无约束回归:RSSU=0.00324， kU=3 受约束回归:RSSR=0.00332， KR=2 样本容量n=14， 约束条件个数kU - kR=3-2=1 这里的F检验适合所有关于参数线性约束的检验 如：多元回归中对方程总体线性性的F检验： H0： ?j=0 j=1,2,…,k 这里：受约束回归模型为 这里，运用了ESSR ＝0。 对回归模型增加或减少解释变量 考虑如下两个回归模型 (*) (**) (*)式可看成是（**）式的受约束回归： H0： 相应的Ｆ统计量为： 如果约束条件为真，即额外的变量Xk+1, …, Xk+q对Ｙ没有解释能力，则Ｆ统计量较小； 否则，约束条件为假，意味着额外的变量对Ｙ有较强的解释能力，则Ｆ统计量较大。 因此，可通过F的计算值与临界值的比较，来判断额外变量是否应包括在模型中。 讨论： Ｆ统计量的另一个等价式 参数的稳定性 1、邹氏参数稳定性检验 建立模型时往往希望模型的参数是稳定的，即所谓的结构不变，这将提高模型的预测与分析功能。如何检验？