第三章 非线性回归分析江南大学 张荷观.ppt

第三章 非线性回归分析 第一节 非线性回归模型 消费函数模型 生产函数模型 二、非线性模型的建立和假设 第二节 非线性回归模型的参数估计 最小二乘估计 二、搜索法 1.直接搜索法 2.格点搜索法 例2 三、高斯–牛顿(Gauss - Newton)法 (1) 最小二乘估计 (2) 高斯–牛顿法的另一种思路 四、牛顿–拉夫森(Newton – Raphson)法 一个参数时的牛顿 – 拉夫森法 多元非线性回归模型的牛顿 – 拉夫森法 五、迭代算法的初始值和收敛性 (1) 利用参数的经济意义 (2) 模型函数及其导函数在特定点的性状 (3) 变换模型及其分析 (4) 降维法 避免失误的方法 (二) 收敛性和收敛标准 第三节 非线性回归评价和假设捡验 一、决定系数 二、 t 捡验和 F 捡验 三、参数显著性的F 捡验 四、似然比捡验(likelihood ratio test)统计量 第四节 非线性回归分析的预测 第五节 非线性回归参数估计示例 表3-1 高斯 – 牛顿法估计参数 高斯 – 牛顿法 一元线性回归分析表 5次迭代的结果 计算表 二元线性回归分析表 t 捡验 SPSS非线性回归分析的主要步骤 (2) 依次单击 Analyze ? Regression ? Nonlinear (3) 非线性回归分析的主对话框 (4) 设置参数初始值 (5) 单击 “ OK ” ，开始进行统计分析 (6) 非线性回归基本信息 基本信息 (7) 非线性回归分析表 设消费函数模型 (3-28) 其中C 是消费, y 是总收入, 是三个参数。当 时上式成为线性回归模型, 而只有当 时才是非线性回归模型。所以, 该模型是否为线性可归结为检验 是否成立。 样本数据列于表3-1。 消费函数的相关数据 采用高斯–牛顿法估计未和参数。记参数的初始值为 ,由于 根据一阶泰勒级数展开式 (3-29) 整理得 (3-30) 记 则(3-30)为 这是二元线性回归模型。 首先由一元线性回归模型 求得 于是取 由二元线性回归模型(3-30)迭代求解, 迭代5次的结果如下。 (3-30) 根据二元线性回归分析表, 可作如下近似的 t 捡验 由于 , 从而可认为应采用非线性回归模型。 对非线性回归模型，SPSS 可以直接通过迭代完成分析。 (1)输入数据 ① 把被解释变量移到“Dependent”栏内, ② 在“Model Expression ”栏内输入回归方程的具体表达式。 单击“Parameter”，设置参数初始值。 讨论直接对非线性回归模型的回归分析方法, 即非线性回归模型的参数估计、假设检验和预测方法。 一、简非线性模型简介 非线性回归模型在经济学研究中有着广泛的应用。有一些非线 性回归模型可以通过直接代换或间接代换转化为线性回归模型, 但也有一些非线性回归模型却无法通过代换转化为线性回归模型。 其中 x 是居民收入, y 是居民消费。(3-1)式为一元非线性回归模型(当已知 时成为一元线性回归模型), 并且无法通过代换转化为线性回归模型。 (3-1) 设消费函数模型 柯布—道格拉斯生产函数模型 其中 L 和 K 分别是劳力投入和资金投入, y 是产出。由于误差项是可加的, 从而也不能通过代换转化为线性回归模型。 对于联立方程模型, 只要其中有一个方程是不能通过代换转化为线性, 那么这个联立方程模型就是非线性的。 (3-2) 单方程非线性回归模型的一般形式为 其中 是模型的 k 个解释变量, 是模型的 p 个未知参数, f 是一个非线性函数, 是模型的误差项。 关于误差项的假设, 也是满足独立、等方差、不相关和零均值, 也可以进一步假设误差项服从正态分布。 (3-3) 一、非线性计量经济分析的基本思路 建立非线性计量经济模型的基本思路与建立线性计量经济模型是相似的, 也是根据经济理论或实际数据建立初步模型, 然后估计模型中的未知参数,通过对模型的检验, 最后确定模型。 非线性计量经济分析仍以回归分析为核心, 也称为非线性回归分析。 非线性回归分析的参数估计有两种基本方法: 最大似然估计和最小二乘估计, 这里介绍最小二乘估计。 若把最小二乘估计记为 , 那么 应使残差平方和达到最小, 即 (3-4) 由于回归函数 f 是