6 非_性模型.ppt

第六章 非线性回归 问题的引入 非线性最小二乘法 NLS估计的特性 假设检验 NLS举例 §6.1 问题的引入Introduction 到目前为止，一直讨论的是线性回归模型： Yt= ?0+?1Xt1+??kXtk+?t t=1,2,?n 或 Yt= Xt?+?t t=1,2,?n 其中： Xt=(1 Xt1 Xt2 ?Xtk) 或 Y= X?+? 该模型既是一动态模型(dynamic model)，也是一关于参数?、?的非线性模型。 §6.2 非线性最小二乘法 由类比法，对一容量为n的样本，可通过求解样本回归模型残差平方和的极小值来寻找适当的?： min SSR(?)=?t=1net2=?t=1n[Yt-h(Xt;?)]2=(Y-h)’(Y-h) 记 二、非线性极值 由于模型的非线性性，需通过数值解法进行迭代求解。 不失一般性，记目标函数为S(?)； 记其1阶偏导向量为g(?)=?S(?)/??， 称为S(?)的梯度(gradient)： 1、Newton-Raphson 方法 给出初值?=b(0) , 并记 g(0)=g(b(0))，H(0)=H(b