中央财经大学计量经济学3 多元线性回归_PPT课件.ppt

第三章 多元线性回归; 模型的建立与假设 模型的参数估计 模型的统计检验 非线性关系的处理 模型的预测 虚拟变量 实例;3.1 模型的建立与假设;总体回归函数与样本回归函数;设有n组观测值 则每组样本都满足：;或者写成矩阵的形式：;假定2：同方差性。;假设2 和假设3 的矩阵表达形式为： Cov (u) = ? 2I (其中: I为n阶单位矩阵);假设4：解释变量 是确定变量，不是随机变量，与随机误差项不相关，即 Cov(Xj i, ui)=0，i=1,2, …,n，j=1,2, …,k 表现为矩阵形式为：E(X ?u) = O;假设5：解释变量 之间不存在严格的线性关系，即解释变量的样本观测值矩阵是满秩的，应满足关系式：rank(X)=k+1n。 也就是样本容量n相对于解释变量的个数应足够大！因为自由度(n-k)与误差项的方差估计值有关。若(n-k)太小，误差项方差就比较大， 参数估计量就不容易通过显著性检验。继而也会影响到被解释变量的估计与预测。;假设6：随机误差项服从正态分布，即 ui～N(0, ? 2 ) i=1,2,…,n 于是，被解释变量也服从正态分布，即：;3.2 模型的参数估计;对于随机抽取的n组样本观测值 估计模型： 找到合适的参数估计值 ，使得残差平方和最小。残差的平方和为：;要使“残差平方和”达到最小，则有; ;正规方程组的矩阵形式;使用矩阵代数的运算方法，过程如下： ;使用矩阵的微分法，得到：;二、参数估计量的性质;（一）线性性;（二）无偏性;（三）有效性（最小方差性）;25;接着证明最小方差性;27;28; 在给定经典线性回归的假定下，最小二乘估计量 是 的最优线性无偏估计量（BLUE）。 ——高斯—马尔可夫定理 (Gauss-Markov theorem) ;三、随机误差项方差的估计;31; 这样，我们便找到了随机误差项方差的无偏估计量：;3.3 模型的统计检验;一、拟合优度检验 ;; 调整后的可决系数（adjusted coefficient of determination） ; 当增加一个对被解释变量Y 有较大影响的解释变量时，残差平方和RSS的减小比(n-k-1)减小更显著，修正的拟合优度 就增加。;由于;修正后的拟合优度 可能为负值;赤池信息准则（Akaike information criterion, AIC） 施瓦茨准则（Schwarz criterion，SC） ;二、方程的显著性检验(F检验) ; F 检验的思想来自于总离差平方和的分解式： TSS = ESS + RSS; 根据数理统计学中的知识，在原假设 H0 成立的条件下，统计量 ;拟合优度检验与方程显著性检验的关系;拟合优度与F值的重要关系式（1）;拟合优度与F值的重要关系式（2）;三、变量的显著性检验（t检验）;t 统计量 ;t 检验;注意：一元线性回归中，t检验与F 检验一致 ;参数的置信区间 ;在实际经济活动中，经济变量的关系是复杂的，直接表现为线性关系的情况并不多见。 如著名的恩格尔曲线(Engle curves)表现为幂函数曲线形式、宏观经济学中的菲利普斯曲线( Phillips curves ) 表现为双曲线形式等。 但是，大部分非线性关系又可以通过一些简单的数学处理，使之化为数学上的线性关系，从而可以运用线性回归模型的理论方法。;多项式函数模型;例如：描述税收与税率关系的拉弗曲线： 抛物线 s = a + b r + c r2 c 0 s：税收； r：税率;双曲线函数模型;实例;对数模型（双对数模型） 半对数模型 线性－对数形式 对数－线性形式;指数函数模型;幂函数模型;复杂函数模型; 设式中 ln[?K-? + (1-? )L-?] =f (? )，在? =0 处作泰勒级数展开，; 该方法的原则仍然是使残差平方和最小。计量经济软件包通常提供这类方法，这里给出有关非线性回归方法的大致步骤如下：;NLS估计量的性质;确定非线性模型形式的方法; 对于模型 给定样本以外的解释变量的观测值 X0= (1, X10, X20, …, Xk0 )