3.2多元线性回归模型的参数估计.ppt

§3.2 多元线性回归模型的估计 一、普通最小二乘估计 对于随机抽取的n组观测值 *二、最大或然估计 对于多元线性回归模型 四、参数估计量的性质 在满足基本假设的情况下，其结构参数?的普通最小二乘估计、最大或然估计仍具有： 线性性、无偏性、有效性。 五、样本容量问题 所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。 * 一、普通最小二乘估计 *二、最大或然估计 *三、矩估计 四、参数估计量的性质 如果样本函数的参数估计值已经得到，则有： i=1,2…n 根据最小二乘原理，参数估计值应该是右列方程组的解 其中 k i1 i2 ik i1 i2 ik ij ) 于是得到关于待估参数估计值的正规方程组： 解该（ k+1） 个方程组成的线性代数方程组，即 可得到(k+1) 个待估参数的估计值 $ , , , , , b j j = 0 1 2 L 。 k i1 i2 ik i1 i2 ik i1 i1 i1 i2 ik i2 i2 i2 i1 ik ik ik 2 □正规方程组的矩阵形式 即 由于X’X满秩，故有 ik ik ik i1 ik i1 i1 i1 ik i1 21 n1 1k 2k nk 将上述过程用矩阵表示如下： 即求解方程组： 得到： 于是： 例3.2.1：在例2.1.1的家庭收入-消费支出例中， 可求得： 于是： 15829×107 ×107 15829－142.4 0.67 易知 Y的随机抽取的n组样本观测值的联合概率 即为变量Y的或然函数 i1 i2 ik i1 + i2 + i1 ik )) 对数或然函数为 对对数或然函数求极大值，也就是对 求极小值。 , 因此，参数的最大或然估计为 结果与参数的普通最小二乘估计相同 1、线性性 其中,C=(X’X)-1 X’ 仅与固定的X有关。 2、无偏性 这里利用了假设: E(X’?)=0 3、有效性（最小方差性） X’X 其中利用了 和 ⒈ 最小样本容量 样本最小容量必须不少于模型中解释变量的数目（包括常数项）,即 n ? k+1 因为，无多重共线性要求：秩(X)=k+1 2、满足基本要求的样本容量 一般经验认为: 当n?30或者至少n?3(k+1)时，才能说满足模型估计的基本要求。 3、模型的良好性质只有在大样本下才能得到理论上的证明 六、实例 地区城镇居民消费模型 被解释变量：地区城镇居民人均消费Y 解释变量： 地区城镇居民人均可支配收入X1 前一年地区城镇居民人均消费X2 样本：2006年，31个地区 数据 变量间关系 *