LOG回归例子.pdfVIP

Logistic 回归 Logistic 回归延伸了多元线性回归思想，即因变量是二值（为了方便起见通常设这些值 为0 和1）的情形。和在多元线性回归中一样，自变量 也许是类别变量或连续变 x x , x ,..., 1 2 k 量或是两种类型的混合。 让我们用一些例子表示这些情况[1]: 例1： 在表 1 中的数据是在美国由ATT 主导的一次合作工作家庭抽样调查中得到的。兴趣 集中在确定采用新型通讯服务与教育、居住稳定性和收入的关系上。 表1 高中以下 大学以上 在过去 5 年中居住 在过去 5 年中居住 在过去 5 年中居住 在过去 5 年中居住 地没有变化 地有变化 地没有变化 地有变化 低 153/2100=0.071 226/1137=0.199 61/886=0.069 233/1091=0.214 收 入 高 147/1303=0.108 139/547=0.254 287/1925=0.149 382/1415=0.270 收 入 （对于上面每个单元格，分子是分母为总数的采用者） 注意到所有在例子中采用的概率为1628/10524=0.155。然而，采用概率随着教育、居住 稳定性和收入等独立的类别变量的变化而变化。低收入、无居住变动的及受过大学以上教育 的家庭的最低值是0.069，但最高的0.270 对应的是一些高收入、居住地变动的、受过大学 以上教育者。 由于以下原因，标准的多元线性回归模型不合适这些数据： 1. 模型的预测概率可能落在[0,1]区间之外； 2. 独立变量不是正态分布的。实际上，二项式模型会更合适。例如，如果单元格个数 是11，那么变量只能取0，1，2…11 。设想在每个单元格中家庭的（做出的）反应 是由独立的抛硬币来决定，在单元格中的采用概率由头像正面向上的概率表示。 3. 如果我们认为正态分布是对二项分布的近似，在所有单元格中因变量的方差是不一 致的：它将会比在单元格中采用概率p 高，是接近0.5 而不是接近0 或 1。这将增 加落在单元格中家庭的总数量n 。这个方差等于n(p(1-p)) 。 Logistic 回归模型被发展来处理这些困难。它在经济计量学中描述选择行为和在流行病 风险因素建模中变得非常流行。在选择行为的环境中，它通常被表现为服从随机效用理论， 这个理论是由Manski 对标准消费者行为经济理论的拓展。 实质上，消费者理论陈述了当面对一个选择集时，消费者会做出有最高的效用的选择（对 价值做出的主观的、由0 或一些标称变量表示的定量化衡量）。它假设消费者有一个满足如 传递性等标准的合理的选择排序。这个偏好序列能依靠个人（如上例 1 所示的社会经济学的 特征）及选择的属性。随机效用模型认为选择的效用包含了一个随机因素。当我们对来自“合 理”的分布的随机因素建模，我们能从逻辑上建立预测选择行为的Logistic 模型。 如果我们让y=1 代表做了一个选择，y=0 表示不选择它，Logistic 回归模型规定： 1 exp(x ... x ) β +β + β ( Y1 | , x ...x )x 0 1 1 k k 概率 1 2 k + β+1 βexp(+ xβ ... x