求解非负矩阵分解的子空间共轭梯度算法.pdfVIP

’‘。’J u 平弟 卺 弟 煳 ElectronicSci．＆Tech．／Jan．15．2014 求解非负矩阵分解的子空间共轭梯度算法 孙 良帅，李秀峰 (西安电子科技大学 数学与统计学院，陕西 西安 710071) 摘 要 交替最小二乘法由于其理论可靠性和实际有效性成为非负矩阵分解中备受欢迎的方法之一。文中基于交 替最小二乘法将界约束优化中的积极集共轭梯度法运用到非负矩阵分解当中，算法在子问题的求解中，并利用子空间 的思想来划分指标集，并利用文献CHENGWangyou文中的共轭梯度法进行变量更新 ，在一定条件 下证明了新算法的 收敛性，实验结果表明算法是有效的。 关键词 非负矩阵分解；交替最小二乘法；共轭梯度法；子空间 中图分类号 029 文献标识码 A 文章编号 1007—7820(2014)01—009—04 SolutiontoNon-NegativeMatrixFactorizationSubspaceConjugateGradientAlgorithm SUN Liangshuai，LIXiufeng (SchoolofMathematicsandStatistics，XidianUniversity，Xi’an710071，China) Abstract Thealternatingnonnegativeleastsquares(ANLS)，whichisshowntobetheoreticallysoundand empiricallyefficient，hasbeenoneofthemostpopularmethods．BasedonANLS，thispaperappliestheactiveset conjugategradientalgorithmofboundconstrainedoptimizationtononnegativematrixfactorization．Insolvingsub— problems，theindexsetisdividedbyemployingthesubspacestrategyintofourpansandthentheconjugatergadient methodproposedin[13]isusedforupdatingthevariables．Theglobalconvergenceoftheproposedalgorithm is provedundermildconditions．Numericalexperimentsshowthealgorithm isefficient． Keywords nonnegativematrixfactorization；ahematingnonnegativeleastsquaresmethod；conjugatergadient method；subspace 非负矩阵分解 (NMF)最初 由Paatero和 Tapper提 迭代算法…由Lee和Seung于2001年提出，算法本身 出_3j，称为正矩阵分解 ；1999年 Lee和Seung正式提出 简单但收敛速度较慢。交替最小二乘方法由于其的理 了非负矩阵分解的概念 。]。由于NMF算法易于实 论可靠性和实际有效性，逐渐受到研究者的重视。基 现、存储空间小、分解形式的可解释性强，因此被应用 于此，众多算法被提出，例如投影梯度法 (PG)H 、积 于文本挖掘、计算机视觉、癌症诊断和基因特征提取等 极集法(AS)、投影拟牛顿法(QN)等 ]。 研究领域 J。 ANLS框架如下 NMF问题可描述为：已知 V∈尺 ，求解非负矩 日¨=argrain÷lI一 日 ，s．t．日≥0 (2) 阵 日∈R 和W ∈Rm ，满足