参数的普通最小二乘估计.ppt

参数的普通最小二乘估计 普通最小二乘法是样本观测值与估计值之差的平方和最小，即： Q=∑(Yi- Y*i)^2= ∑(Yi- ( + Xi ))^2最小； 在给定样本观测值下，选择 ， 能使Yi, Y*i之差的平方和最小 对上式分别对 ， 求偏导 得： ∑（ + X i - Yi）=0 ∑（ + Xi - Yi）Xi =0 → ∑ Yi=n + ∑ X i ∑ Yi Xi = ∑ X i + ∑ X i ^2 解得 =(∑ Yi ∑ Xi ^2 - ∑ X i ∑ Yi Xi )/(n∑ X i ^2 – (∑ Xi )^2 ) = (n∑ Yi Xi - ∑ X i ∑ Yi ) / (n∑ X i ^2 – (∑ Xi )^2 ) 这是正规方程组 令 所以之前的结果可写成 =∑xi y i / ∑xi^2 =Y- X 这是OLS估计量的离差形式 现证明估计量 ， 是线性的: 令k i= X i / ∑X i^2, ∵ ∑x i= ∑(X i –X)=0 ∴ = =Y – X = ∑ Y i/ n- ∑ k i Y i X = ∑(1/n - X k i ) Yi = ∑ Wi Yi ∴得证 证明无偏性 = ∑ k i Y I = ∑ k i(β0 +β1 xi+μi)= β0 ∑ k i+β1 ∑ k i xi+ ∑ k i μi ∵ ∑x i= ∑(X i –X)=0 , ∴ ∑ k i = ∑x i / ∑x i^2 =0 ∑ k i xi = ∑(∑x i / ∑x i^2 ) xi = ∑x i xi / ∑x i^2 =∑(X i –X) X i / ∑(X i –X) ^2 = ∑(Xi ^2 –XX i ) /∑(X i –X) ^2 = 有效性的证明 * ? ? ? = + + = = ) D( ) D( ) D( ) ? D( 2 1 0 2 1 i i i i i i i k X k Y k m m b b b ? ? ? - = + + = = 2 2 1 0 2 0 ) / 1 ( ) D( ) D( ) ? D( s m b b b i i i i i i k X n X w Y w