半非负矩阵分解的全局最优解析解及其在非负或混合输入中的应用.pdfVIP

半非负矩阵分解的全局最优解析解及其在非负或混合输入中的

应用

该手稿目前正由《SIAM最优化期刊》进行审阅。

ChenggangLu1

1SchoolofMathematicalScience,ZhejiangUniversityofTechnology,Hangzhou,China.

luchenggang@

本2025年8月13日

译

中

摘要

1

v半非负矩阵分解（semi-NMF）通过允许基矩阵包含正数和负数，扩展了经典的非负矩阵因

4

3子化（NMF），使其适用于分解带有混合符号的数据。然而，大多数现有的半非负矩阵分解算法

1是迭代的、非凸的，并且容易陷入局部最小值。在这篇论文中，我们提出了一种新方法，通过

7

0从输入数据的散布矩阵推导出正交分解，在弗罗贝尼乌斯范数下得到半非负矩阵分解问题的全

.

8局最优解。我们严格证明了我们的解决方案达到了重构误差的全局最小值。此外，我们展示了

0

5当输入矩阵为非负时，我们的方法通常比标准NMF算法实现更低的重构误差，尽管不幸的是基

2矩阵可能不满足非负性。特别是，在低秩情况下如秩1或2，我们的解精确地减少到一个非负因

:

v子化，恢复了NMF结构。我们通过合成数据和UCI葡萄酒数据集上的实验验证了我们的方法，

i

x结果显示在重构准确性方面，我们的方法一致优于现有的NMF和半非负矩阵分解方法。这些结

r

a果证实了我们提出的全局最优、非迭代公式提供了理论保证和经验优势，为优化和数据分析中

的矩阵因子化提供了一个新的视角。

关键词：半非负矩阵分解，封闭形式解，全局最优性，散度矩阵，正交分解，低秩近似，非凸优化

1介绍

矩阵分解是数据科学中的一个基本工具，广泛用于降维、信号分解和可解释学习。在其变体中，

非负矩阵分解（NMF）自Lee和Seung的开创性工作[10]以来获得了相当大的关注，因为它能够

从非负数据矩阵中提取基于部分的特征。NMF已成功应用于面部识别、文档分析和生物信息学等

领域[3]。

尽管取得了成功，非负矩阵分解（NMF）对两个因子矩阵都施加了严格的非负约束，在实际场

景中这可能过于严格，特别是在数据进行了中心化、标准化或包含正负值的情况下。为克服这一限

1

制，提出了半非负矩阵分解（semi-NMF）[4]，其中基矩阵可以取任意实数值，而系数矩阵保持非

负。这种泛化对于分析零均值特征和残差模型特别有用。

然而，解决半非负矩阵分解问题仍然具有挑战性，这是由于其内在的非凸性[6]，现有方法通常

依赖于迭代优化启发式算法。这些方法对初始值敏感，并不能保证收敛到全局最优解[11]。在这项

工作中，我们引入了基于Frobenius范数的标准半非负矩阵分解问题的闭合形式、全局最优解。我

们的方法基于从数据导出的散度矩阵的正交分解，并且实现了比经典NMF和迭代半非负矩阵分解

算法更低的重构误差。在合成数据集和真实世界数据集上的实验结果，包括UCI葡萄酒数据集[5]，

验证了我们方法的理论保证和实际鲁棒性。

带非负性约束的矩阵分解问题在文献中得到了广泛的研究。Lee和Seung[10]引入了NMF的

乘法更新规则，为后续大量研究奠定了基础。随后的研究探索了更高效和理论基础更扎实的方法，

包括投影梯度技术[11]、交替最小二乘法[2]和带约束的二次优化[12]。[3]提供了这些方法的全面

处理。

在许多实际应用中，数据矩阵并非严格非负。为了解决这个问题，Ding等人[4]提出了半NMF，

其中非