scad在poisson对数线性回归模型下的性质-西北大学学报自然科学.pdfVIP

西北大学学报( 自然科学网络版) 2011 年 5 月，第 9 卷，第 3 期 Science Journal of Northwest University Online May. 2011 ，Vol.9 ，No.3 SCAD 在 Poisson 对数线性回归模型下的性质 崔 静，郭鹏江，夏志明 （西北大学数学系 西安 710127 ） 摘 要：传统的变量选择方法对高维与海量数据无法适用且很难得到其样本性质，为了解决这个 问题，采用惩罚似然方法，将SCAD 罚引入Poisson 对数线性回归模型，证明了在一定条件下， SCAD 估计量具有Oracle 性质—稀疏性和渐进正态性。 关 键 词：SCAD；Poisson 对数线性回归模型；变量选择；惩罚似然；Oracle 性质 中图分类号：O212.4 文献标识码：A 文章编号：1000-274X(2011)0466-08 SCAD for Poisson log-linear regression model CUI Jing, GUO Peng-jiang, XIA Zhi-ming （Department of Mathematics, Northwest University, Xi’an 710127 ） Abstract: The traditional variable selection approaches are not suitable for high-dimensional datas and can hardly help identify their theoretical properties. The penalized likelihood method was used for solving the problem. The SCAD was introduced into the Poisson log-linear regression model and it has been proved that SCAD estimator enjoys the oracle properties which are sparsity and asymptotic normality under some conditions of regularization. Key words: SCAD; Poisson log-linear model; variable selection; penalized likelihood; Oracle properties 变量选择是处理高维统计模型的基础，经典的变量选择方法如 AIC 、BIC 及 Cp 准则由于要求解一个 NP 组合优化问题，从而在处理高维与海量数据时计算过于复杂，并且很难得到其样本性质。而惩罚方法 就可以处理上述问题。Fan 和 Li[1]提出通过罚最小二乘在选择变量的同时估计变量的系数，这种惩罚似然 方法被广泛应用于各种参数模型，包括广义线性模型和稳健线性回归模型，以及一些半参数模型，如 Cox 模型[2,3]等。 Fan[4,5]从统计的观点给出了评价罚的几个准则，他认为一个好的罚应具有：①稀疏性，即算法具有剔 除冗余变量的能力；②无偏性，即参数的估计值不能有太大的偏差；③连续性，即算法具有一定的抗随机 影响能力；④Oracle 性质，即当事先已知模型时，罚函数应该可以正确辨识模型。现有的一些罚有L2 罚(岭 估计) ，Tibshirani[6]提出的L 罚(Lasso)，Frank 和 Friedman 提出的桥回归，Fan[7]提出的 SCAD 罚，Zou[8] 1 提出的自适应 Lasso 等。 SCAD 与经典变量选择方法如最佳子集选择法相比较，它有两个优点：① 使用 SCAD 的变量选择是 一个连续的过程，而最佳子集是离散的、不连续的过程，因此 SCAD 比最佳子集选择法要稳定；② SCAD 可以对高维数据进行计算，而最佳子集选择法是不可行的。更好的是 SCAD 罚具有 Or