广义线性模型的惩罚高维经验似然论文.pdfVIP

辽宁师范大学硕士学位论文 摘 要 经验似然方法是由Owen[2。31提出的，它是统计推断中非常重要的方法之一，且有 许多的优点．本文讨论惩罚经验似然方法在广义线性模型下的参数估计和变量选择问 题．在广义线性模型下选取适当的惩罚函数结合经验似然方法对回归系数作统计推断， 证明了惩罚经验似然方法具有Oracle性质． 本文由以下四部分组成： 第一部分介绍了广义线性模型的基本特点，经验似然方法的定义和它的两个基本的 定理，以及一些常见的惩罚函数的表达形式，指出了对于高维数据，经验似然方法也是 适用的．同时，对变量选择加以了简单的介绍，列举了几种常用的变量选择方法． 第二部分通过构造∥的经验似然函数 (2．2) L(f1)=sup{l-I缈，：∞，≥o，∑gO，=1和∑∞，Ui(∥)=o)． i=l i=l i=l 在一定条件下，针对带有发散参数的参数估计和变量选择问题提出了惩罚经验似然 方法．通过选取适当的惩罚函数，我们发现惩罚经验似然方法具有Oracle性质．也就是 说，如果模型的稀疏性己知，依概率1，惩罚经验似然确定的真实模型和估计非零系数 一样有效，在假设检验和构造置信区间时，惩罚经验似然方法的优点充分体现出来． 第三部分给出SCAD的算法并选择了优化的参数，并给出一个数值模拟来证实本文 的主要结果． 第四部分对本文的定理进行了证明．首先，提出了引理并对其加以证明，通过运用 Lagrange乘子法，中心极限定理得到本文中部分结果，也显示出其在统计推断中的重要 作用． 关键词：广义线性模型：惩罚经验似然： SCAD：变量选择 辽宁师范大学硕士学位论文 Penalized DimensionalLikelihoodfor High Empirical GeneralizedLinear models Abstraot The likelihood empirical method，introducedOwen[2-3】，isoneofthemost by important statisticalinference methods．Andithas considersthe many advantages．Thispaper problems ofvariableselectionandestimationin linearmodelsviathe generalized penalizedempirical the linear selectan likelihood(PEL)method．Inmodels，we generalized appropriatepenalty functioncombinedwiththe likelihood empirical methodforstatisticalinferenceonthe regression showthatPELhastheoracle coefficients．Furthermore，we p