第三章非线性回归分析法-韩苗.ppt

第三章 非线性回归分析法 3.1 可化为线性的回归模型 3.2 不可化为线性的回归模型 3.3 非线性回归应用的几个问题 3.4 预测实例 学习目标 了解：非线性回归模型的一般形式 理解：可线性化的非线性回归的形式变换、不可线性化的参数估计方法。 掌握：应用Eviews软件进行非线性趋势预测 几点说明： （1）在方程描述对话框中，点击Option按钮，可以设置迭代估 计的最大迭代次数(Max Iteration)和误差精度(Convergence)，以便控制迭代估计的收敛过程。 （2）利用NLS命令也可估计可划为线性的非线性回归模型。例如 NLS y=c(1)+c(2)/x NLS y=c(1)+c(2)*ln(x) （3）迭代估计是一种近似估计，并且参数初始值和误差精度的设定不当还会直接影响模型的估计结果，甚至出现错误。 * 3.1 可化为线性的回归模型 一、非线性回归模型的直接代换 1. 多项式函数模型 令 原模型可化为线性形式 即可利用线性回归分析的方法处理了。 新引进的自变量只能依赖于原始变量，而不能与未知参数有关。 任何一连续函数都可用分段多项式来逼近，所以在实际问题中，不论变量y与其他变量的关系如何，在相当宽的范围内我们总可以用多项式来拟合。 2. 双曲线模型 令 原模型可化为线性形式 即可利用线性回归分析的方法处理了。 3. 半对数函数模型和双对数函数模型 半对数函数模型 双对数函数模型 令 原模型可化为线性形式 4. 三角函数回归模型 令 则 这类变换本身不涉及模型参数，其参数估计就是原模型的参数估计。 二、非线性模型的间接代换（对数变换法） 1. 指数曲线模型 对数变换 再采用前述代换的形式建立线性模型。 如：著名的柯布——道格拉斯（Cobb—Douglas）生产函数就是其中一个典型。 2. 幂函数曲线回归模型 对数变换 令 原模型可化为线性形式 模型变换涉及参数，估计参数后要还原。 3.2 不可转换成线性的趋势模型 一、不可线性化模型 1、不可线性化模型：无论采取什么方式变换都不可 能实现线性化的模型。 2、常用的处理方法：一般采用高斯一牛顿迭代 法进行参数估计，即借助于泰勒级数展开式 进行逐次的线性近似估计。 二、迭代估计法 基本思路是： 1、通过泰勒级数展开使非线性方程在某一组初始参数 估计值附近线性化； 2、然后对这一线性方程应用OLS法，得出一组新的参 数估计值； 3、使非线性方程在新参数估计值附近线性化，对新 的线性方程再应用OLS法，又得出一组新的参数估 计值； 4、不断重复上述过程，直至参数估计值收敛时为止。 三、迭代估计法的Eviews软件实现 ⒈ 设定代估参数的初始值，可采用以下两种方式： （1）使用param命令。命令格式为param 初始值1 初始值2 初始值3 …… （2）在工作文件窗口双击序列C，并在序列窗口中直接输入参数的初始值（注意序列C中总是保留着刚建立模型的参数估计值，若不重新设定，系统自动将这些值作为参数的默认初始值）。 ⒉ 估计非线性模型 （1）命令方式 在命令窗口直接键入:NLS 非线性函数表达式 例如，对于非线性模型 ，其估计命令格式为 NLS y=c(1)*k^c(2)*L^c(3) 其中， c(1)、c(2)、c(3)表示待估计的三个参数A、 、 。回车后，系统会自动给出迭代估计的参数估计值。 在数组窗口，点击Procs→Make Equation，在弹出的方程描述对话框中，输入非线性函数表达式： （2）菜单方式 选择估计方法为最小二乘法后，点击OK按钮。 y=c(1)*k^c(2)*L^c(3) 非线性回归模型参数估计的基本思想可以类似于线性估计，也是设法找到使 的一组参数值。 1、求偏导为零，得未知参数的非线性方程组，一 般用Newton 迭代法求解。 2、直接极小化残差平方和，求出未知参数的非线 性最小二乘估计。 3.3 非线性回归应用的几个问题 一、参数估计 注： 在非线性最小二乘法中，一些精确的分布式很难得到的，在大样本时，可以得到近似分布，因此可以得到近似的参数的区间估计，显著性检验等回归诊断。 3、将非线性模型转化为线性模型再采用最小二乘估计。 直接变换法、对数变换法、泰勒级数展开法等 常用的转化方法： *