连续型因变量摘要.pptxVIP

连续型因变量 鞠咪、刘素、白昊龙 中国人民大学统计学院 教材：孟生旺，《回归模型》，中国人民大学出版社，2015 主要内容 广义线性模型假设因变量服从指数分布族。在指数分布族中，既有连续分布，也有离散分布。 本章讨论因变量服从连续分布的广义线性模型。 指数分布族中的连续分布主要包括正态分布、伽马分布和逆高斯分布，相应地,与它们对应的广义线性模型称作正态回归模型、伽马回归模型和逆高斯回归模型. 3.1 正态回归模型 在正态分布假设下,广义线性模型等价于普通的线性回归模型。在广义线性模型的框架下讨论线性回归模型。 模型设定 正态分布也称作高斯分布，是定义在 上的连续分布。 如果因变量服从正态分布，则其密度函数可以表示为： （3.1） 式中， 是均值参数；是标准差参数， 也称为尺度参数。 指数分布族的密度函数可以表示为下述一般形式： （3.2） 对式（3.1）变形，正态分布的密度函数也可以表示为指数分布族的形式，即 对比式（3.2）和（3.3）可知 （3.4） 在广义线性模型中，正则连接函数是使得 成立的函数。 在正态分布假设下， ，所以相应的正则连接函数就是恒等连接函数，即 。 由式（3.4）可得正态分布的均值为： （3.5） 正态分布的方差函数为： （3.6） 广义线性模型的残差偏差（简称为偏差）定义为： （3.7） 式中， 表示当前模型的对数似然函数； 表示饱和模型的对数似然函数。在饱和模型的对数似然函数中，用观察值 代替了当前模型的拟合值 。 在正态回归模型中，当前模型的对数似然函数为： （3.8） 饱和模型的对数似然函数为： （3.9） 因此，正态回归模型的偏差为： （3.10） 可见，正态回归模型的残差偏差就是线性回归中的残差平方和。换言之，最小化残差平方和等价于最小化偏差。 广义线性模型的统计量定义为： （3.11） 由于正态分布的方差函数等于1，所以，正态回归模型的统计量与偏差相同，即 3.1.2 迭代加权最小二乘估计 在广义线性模型中，参数的迭代加权最小二乘估计公式为： （3.12） 式中