回归分析 刘超 第9章 非线性回归.pdf

回归分析 ——方法、数据与R的应用 刘超 statchao@buaa.edu.cn 北京航空航天大学数学科学学院 2020年1月20 日 课件仅供教学使用 刘 超 ，回归分析——方法、 数据与R的应用，高等教育 出版社，2019年10月 第9章 非线性回归 上课之前的话 线性模型的关键是线性关系，反映在系数而不是自变量上 除了线性关系，变量间也可能是非线性或其他复杂关系 与线性回归相比，非线性回归灵活度更高 • 对一些复杂数据的拟合度可能更好 • 模型结果比线性回归的结果难解释 对非线性回归模型 • 可以变换变量，实现线性化 • 增加二次项或交叉乘积项，刻画变量之间某些预期特征 • 也可以直接使用非线性最小二乘法估计参数 目的与要求 (1)了解使用变量变换将非线性模型线性化的必要性 (2)掌握对数变换、Box-Cox变换等因变量的变换方法 (3)掌握多项式回归、分段回归等自变量变换的参数建 模方法 (4)掌握内在的非线性回归的建模方法 (5)掌握变量变换的各种方法在R软件中的实现 9.1 因变量的变换 9.1 因变量的变换 假设有一个对数因变量的简单回归模型: logy=β +βx +ε 0 1 1 在因变量的原始尺度里，上述模型变为: y= exp(β +βx )·exp(ε) 0 1 1 • 此时误差以乘法方式而不是通常的加法方式进入模型 一般来说，对对数因变量模型使用标准回归方法 时，要求误差在原始尺度上以乘法方式进行运算 当ε较小时exp(ε)≈1+ε，代入原始尺度的模型， 得到一个具有加法误差但异方差的模型 9.1 因变量的变换 若误差以加法方式进入模型时，模型为: y= exp(β +βx )+ε 0 1 1 • 不能直接进行线性化，而可能需要应用非线性回归方法 • 也可以使用exp(ε)≈1+ε近似来获得加权线性模型 然而，误差是以加法方式、乘法方式还是其他方 式进入模型是未知的 • 最好的方法是尝试不同的因变量变换来获得模型的结构， 然后再关心误差项 • 可以检查残差是否满足线性回归所需的条件。若不满足，可用前 几章所讨论的几种方法去解决 9.1 因变量的变换 可以对因变量作变换，但可能还需要返回到原始尺 度中去预测 • 例如，在上面的对数模型中，预测值是exp(ො0ሻ 。 • 如果对数尺度下的预测置信区间为[l,u] ，则原始尺度下的 预测置信区间为[expl,expu] 。尽管区间不对称，但可使用 回归系数需要根据变换后的尺度来解释 • 没有直接的方法将它们变换为原始尺度中可以解释的值 • 不能直接比较不同因变量变换的模型的回归系数 如果不想变换因变量，就可以使用如第10章介绍的 广义线性模型这样的其他类型模型 9.1 因变量的变换 对因变量对数变换时，下面模型的系数有特殊解释: መ መ መ logො = + +⋯+ 0 1 1 ෡ ෡