一种非负矩阵分解的快速稀疏算法-云南民族大学学报.pdfVIP

第２０卷　第４期 云南民族大学学报（自然科学版） Ｖｏｌ．２０　Ｎｏ．４ ２０１１年７月 　　 ＪｏｕｒｎａｌｏｆＹｕｎｎａｎＵｎｉｖｅｒｓｉｔｙｏｆＮａｔｉｏｎａｌｉｔｉｅｓ（ＮａｔｕｒａｌＳｃｉｅｎｃｅｓＥｄｉｔｉｏｎ） Ｊｕｌ．２０１１ ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１６７２－８５１３．２０１１．０４．００６ 一种非负矩阵分解的快速稀疏算法 宋金歌，杨　景，陈　平，佘玉梅 （云南民族大学 数学与计算机科学学院，云南 昆明６５００３１） 摘要：提出了一种非负矩阵分解的快速稀疏算法，该算法有利于处理高维小样本数据．在非负矩 阵分解的过程中，通过代数变换，将原高维ｎ×ｍ阶的非负矩阵分解转化成低维ｍ×ｍ阶非负矩 阵分解，大大提高了分解速度．在目标函数中加入了约束稀松度的项，通过控制稀松度，提高分解 得到的潜在语义信息，改进文档集的话题划分，并能快速提取主题相关的语句生成文摘． 关键词：非负矩阵分解；快速稀疏；文本文摘 中图分类号：ＴＰ３９１．４１ 文献标志码：Ａ 文章编号：１６７２－８５１３（２０１１）０４－０２６２－０５ ＡＦａｓｔａｎｄＳｐａｒｓｅＡｌｇｏｒｉｔｈｍｆｏｒＮｏｎｎｅｇａｔｉｖｅＭａｔｒｉｘＦａｃｔｏｒｉｚａｔｉｏｎ ＳＯＮＧＪｉｎｇｅ，ＹＡＮＧＪｉｎｇ，ＣＨＥＮＰｉｎｇ，ＳＨＥＹｕｍｅｉ （ＳｃｈｏｏｌｏｆＭａｔｈｅｍａｔｉｃｓａｎｄＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＹｕｎｎａｎＵｎｉｖｅｒｓｉｔｙｏｆＮａｔｉｏｎａｌｉｔｉｅｓ，Ｋｕｎｍｉｎｇ６５００３１，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ａｆａｓｔａｎｄｓｐａｒｓｅａｌｇｏｒｉｔｈｍｆｏｒｎｏｎｎｅｇａｔｉｖｅｍａｔｒｉｘｆａｃｔｏｒｉｚａｔｉｏｎ（ＮＭＦ）ｉｓｉｎｔｒｏｄｕｃｅｄ．Ｔｈｅａｌｇｏｒｉｔｈｍｉｓ ｃｏｎｄｕｃｉｖｅｔｏｄｅａｌｗｉｔｈｔｈｅｈｉｇｈ－ｄｉｍｅｎｓｉｏｎ－ｓｍａｌｌ－ｓａｍｐｌｅｄａｔａ．Ｉｎｔｈｅｎｏｎｎｅｇａｔｉｖｅｍａｔｒｉｘｆａｃｔｏｒｉｚａｔｉｏｎｐｒｏｃｅｓｓ ｉｎｇ，ｂｙｓｏｍｅａｌｇｅｂｒａｆｏｒｍｕｌａｔｉｏｎ，ｔｈｅｎ×ｍｈｉｇｈ－ｄｉｍｅｎｓｉｏｎｍａｔｒｉｘｔｏｂｅｆａｃｔｏｒｉｚｅｄｉｓｃｈａｎｇｅｄｉｎｔｏａｍ×ｍｌｏｗ－ ｄｉｍｅｎｓｉｏｎｍａｔｒｉｘ，ｗｈｉｃｈｇｒｅａｔｌｙｉｍｐｒｏｖｅｓｔｈｅｒａｔｅｏｆｄｅｃｏｍｐｏｓｉｔｉｏｎ．Ｔｈｅｓｐａｒｓｅｎｅｓｓｉｔｅｍｉｓａｌｓｏａｄｄｅｄｔｏｔｈｅｏｂｊｅｃ ｔｉｖｅｆｕｎｃｔｉｏｎｉｎｔｈｅａｌｇｏｒｉｔｈｍ，ｂｙｃｏｎｔｒｏｌｌｉｎｇｔｈｅｓｐａｒｓｅｎｅｓｓｉｎｔｈｅｆａｃｔｏｒｓ，ｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｅｘｔｒａｃｔｓｍｏｒｅｍｅａｎ ｉｎｇｆｕｌｌａｔｅｎｔｆｅａｔｕｒｅｓａｎｄｉｍｐｒｏｖｅｓｔｏｐｉｃｉｄｅｎｔｉｆｉｃａｔｉｏｎ，ｗｈｉｃｈｃａｎｂｅｕｓｅｄｉｎｓｅｎｔｅｎｃｅｅｘｔｒａｃｔｉｏｎｆｏｒｓｕｍｍａｒｉｚａｔｉｏｎ． Ｋｅｙｗｏｒｄｓ：ｎｏｎｎｅｇａｔｉｖｅｍａｔｒｉｘｆａｃｔｏｒｉｚａｔｉｏｎ；ｆａｓｔａｎｄｓｐａｒｓｅ；ｄｏｃｕｍｅｎｔｓｕｍｍａｒｉｚａｔｉｏｎ ［１］ １９９９年，Ｌｅｅ和Ｓｅｕｎｇ 首次提出了非负矩阵分解，为人们处理大规模数据提供了一种新的方法．２００１ ［２］ 年，Ｌｅｅ和Ｓｅｕｎｇ 给出了非负矩阵分解的乘性迭代公式，有效地保持了数据的非负性．由于非负矩阵分解算 法易于实现，存储空间小，分解形式的可解释性好，所以被应用于文本分析与聚类、数字水印、人脸识别、图像 ［３］ 检索、基因特征提取等研究中 ．目前，人们对于非负矩阵的研究主要集中在３个方面：稀疏性增强的ＮＭＦ 算法；鉴别性ＮＭＦ算法；加权ＮＭＦ算法． 本文提出了一种非负矩阵分解的快速稀疏算法，通过代数变换把对原矩阵分解转化成对维数较低的对 角矩阵的分解，在分解的过程中加入了对系数矩阵稀疏度的控制．给出了此算法的迭代规则以及收敛性证明 过程，将其应用在文本文摘中． １　非负矩阵分解问题 １１　问题描述 给定一个ｎ×ｍ阶非负矩阵Ｖ，找到２个ｎ×ｒ和ｒ×ｍ阶的非负矩阵因子Ｗ