《组稀疏模型及其算法综述2016年论文》.pdfVIP

第 4期 电 子 学 报 V01．43 No．4 2015年4月 ACTA EI CI1RONICA SINICA Apr． 2015 组稀疏模型及其算法综述 刘建伟，崔立鹏，罗雄麟 (中国石油大学 (北京)自动化研究所，北京 102249) 摘 要： 稀疏性与组稀疏性在统计学、信号处理和机器学习等领域中具有重要的应用．本文总结和分析了不同 组稀疏模型之问的区别与联系，比较了不同组稀疏模型的变量选择能力、变量组选择能力、变量选择一致性和变量组 选择一致性，总结了组稀疏模型的各类求解算法并指出了各算法的优点和不足．最后 ，本文对组稀疏模型未来的研究 方向进行了探讨． 关键词： 稀疏性；组稀疏性；变量选择；变量组选择 ；一致性 中图分类号： TP181 文献标识码： 文章编号： 0372—2112(2015)04—0776—07 电子学报URL：http：／／www．ejourna1．org．cn DOI：10．3969／j．issn．0372．2112．2015．04．021 SurveyonGroupSparseModelsandAlgorithms L[UJian—wei，CUILi-peng，LUOXiong—lin (ResearchInstituteofAutomation，ChinaUniversityofPetroleum，Beijing102249，China) Abstract： Thesparsityandgroupsparsityhaveimportantapplicationsinthestatistics，signalprocessnigandmachinelearn— ing．Thispapersummarizedandanalyzedhtedifferencesandrelations betweenvariousgroup sparsemodels．Inaddition，wecom— pareddifferentmodels’variableselectionability，variablegroupselectionabiliyt，variableselectioncon~stencynadvariablegroup selectionconsistency．Wealsosumn~ htealgorithmsofgroupsparsemodelsandpointedhteadvnatagesnaddisadvanatgesof htealgorithms．Finally，wepointouthtefutureresearchdirections ofthegroup sparsemodels． Keywords： sparsiyt；groupsparsiyt；variableselection；variablergoupselection；consistency Lasso)l_2J模型，该模型利用 ． 范数罚作为正则化项 ，能 1 引言 够实现变量组水平上的稀疏性 ，具有变量组选择能力． 在数理统计 、模式识别 、机器学习、信号处理、计算 后来具有变量组选择能力的一系列组稀疏模型陆续被 机视觉和生物信息学等领域，处理的数据集往往为高维 提出，其分类如图1所示，其中虚线框内的三种重叠非 或超高维的，且这些高维数据集通常还具有复杂的结 凸组稀疏模型为尚未被研究的组稀疏模型 ． 构 ．虽然数据集的变量空间维数非常大，维数可从几百 组稀疏模型 维到上万维，但只有一小部分变量与要预测的输出变量