Logistic模型的极大似然估计.pdf

摘 要 年来，人们对这个模型进行了深入、系统的分析，涉及的问题包括参数估计、回归自变量的 选择、随机效应、统计诊断。本文考虑logistic模型的参数估计问题。在这方面，传统的方法 是用数值算法搜索似然函数的极大值点．这个方法有两个缺点：一是搜索算法不是基于概 率统计的思想，显得不够自然；二是不适合回归自变量较多的情形，因为数值搜索算法在高 Carlo搜索算法一般需要很大的计算量。因此， 而，Ba1卿估计一般缺乏精度，而且Monte 就参数估计而言，极大似然估计依然是最佳的选择。本文的主要工作是利用最近Bayes分析 方面取得的成果，给出了logistic模型的参数估计的EM算法．这里的关键有两点：一是通 and Frfihwirth，2007)． 2004)，二足用混合正态分布作为极值分布的近似(Frfihwirth—Schnatter 通过采用这两项技术，logistic模型化成了误差项服从混合正态分布的线性回归模型．我们 的EM算法正是针对这个模型设计的． 关键词：Logistic模型，极大似然估计，EM算法，混合模型，极值分布 Abstract modelis usedinthe of or Logistic widely regressionanalysisbinaryresponses(i．e．，y=0y=1)． Ithasbeen from s昏 extensivelyanalyzedeveryangles，includingparameterestimation，variable this considerthe estimation lection，randomeffects，statisticaldiagnosis．Inthesis，we parameter is solved themaximalofthelikelihoodfunctionvianu— problem，which by point usually searching merical classical hastwo algorithms．The approach drawbacks．Firstly,thesearchingalgorithms arenotderivedfrom is for dimen— probablisticconsiderations．Secondly，itproblematicveryhigh sional coefficient numericalsearchin dimensionalisdifficultand regression vector，since high space lackof etal EM totheir ori- 1977，Dempster efficiency．In proposedalgorithms．Dueprobabilistic and monotone were to gin convergence，EM—typealgorithms applied