基于交替方向乘子法的矩阵补全问题研究.docxVIP

基于交替方向乘子法的矩阵补全问题研究 近年来，矩阵补充性问题广泛应用于数据处理、计算机视觉、数据结构、建模和机械科学。作为信号与图像处理技术的一个强大的新兴分支, 矩阵补全已成为继压缩感知之后的又一种重要的信号获取工具 一般来说, 要根据信号的部分采样元素来精确地恢复出所有元素是非常困难甚至是不可能的。但是当信号在一组基下是稀疏的且满足一定条件时, 压缩感知理论证实了可以通过求解l 给定不完整的低秩缺失矩阵W∈R 其中A∈R 其中, ‖A‖ 需要指出的是, 矩阵补全模型 (2) 只能对缺失的元素进行恢复, 而无法估计其所含的噪声。然而在某些情况下, 噪声里往往会包含一些重要的信息, 因此, 噪声有时也是非常重要的待恢复成分。另一方面, 矩阵补全模型 (2) 对大的稀疏噪声或野点非常敏感, 为了克服上述模型的不足, Shi等 其中:λ是平衡因子, E∈R 现有的求解基于核范数的矩阵秩最小化问题的大多数算法, 每一步迭代都需要进行奇异值分解, 而多步奇异值分解则大大增加了算法的计算复杂度。为了降低计算复杂度, Xu等 基于矩阵分解在求解基于核范数的矩阵秩最小化问题中的优势, 将矩阵的三分解 1 双重性质矩阵分解 在高维数据分析中, 矩阵分解是一个常用的技巧, 也是一个非常有效的工具。常用的矩阵分解主要有QR分解、LU分解、奇异值分解、非负矩阵分解等。现有的大多数矩阵分解技巧都是将矩阵分解为两个具有某种特殊性质矩阵的乘积。本研究将利用矩阵的三分解技巧及核范数的正交不变性, 尽可能地降低RMC模型的规模, 以达到减少计算量的目的。 上述分解称为矩阵A的三分解。本文就是基于矩阵三分解理论对RMC模型 (4) 进行修改。 由矩阵三分解的定义可知, 当矩阵A的秩较小时, 通过矩阵的三分解可将问题的规模大大降低。将主要针对上述等价模型 (5) 进行求解和分析。 2 模型求解算法 本节中, 将利用交替方向乘子法 (alternating direction multiplier method, ADMM) 对TFMC模型进行求解。 模型 (5) 的増广拉格朗日函数为 交替方向乘子法的基本迭代公式如下 2.1 tfm方法的优越性 将变量E, X, Z固定, 更新Y的最优化模型 (6-1) 可等价为 为了求解上述核范数最小化问题, 给出以下引理: 因此, TFM方法可以大大降低计算的复杂度。由引理知, 模型 (7) 的最优解为 2.2 利用软阈值算子更新 为了求解变量E, 固定变量Y, X, Z, 可将模型 (6-2) 转化为如下优化模型 对问题 (9) 利用软阈值算子进行求解, 可得其最优解为 另外, E 由问题 (11) 的最优性条件可得其最优解为 2.3 利用orthogonlprocrnuses更新x和z 为了求解变量X和Z, 分别将模型 (6-3) 和 (6-4) 转化为以下两个子问题 问题 (13) 和 (14) 为著名的Orthogonal Procrustes (OP) 问题 可得X和Z的最优解分别为 求解模型 (5) 的算法如下: 3 数值实验 3.1 空间方向乘子设计 采用的Man face数据集共包含64张图片, 每张图片的像素为192×168, 数据矩阵W的大小为64×32 256, 平衡因子λ取值为5×10 3.2 数值结果分析 将本研究提出的TFMC模型与RMC模型和使用RBF方法的RMC模型进行对比实验, 迭代次数与运行时间的比较结果见表1。可见, 在不同数据集中, 本研究所用算法较RMC和RBF方法的迭代次数和运行时间均有很大程度的降低。 考虑到矩阵补全的目的是恢复含有损失函数的数据矩阵, 因此为了进一步显示本文方法的有效性, Man face数据集取秩分别为10、12、15, Woman face数据集取秩分别为6、7、8进行数值实验。由图1、图2可以看出, 本研究方法均可以比较完美的恢复原有的模样。另一方面, 虽然已知数据的尺寸非常大, 但由于本研究采用的矩阵三分解方法对问题进行了大幅度的降阶, 使得当r较小时, 算法的运算时间大大减少。Man face数据集中, 当r=10, 12, 15时, 算法的运算时间分别为62.1、76.5和83.2s.Woman face数据集中, 当r=6, 7, 8时, 算法的运算时间分别为1.884、2.081和2.020s。 4 实验结果和分析 针对人脸识别中的矩阵补全模型, 求解过程中存在计算复杂度过大的问题提出使用三分解方法降低计算的复杂度, 并应用交替方向乘子法进行求解。数值实验结果表明, 设计的模型迭代次数少, 计算时间短。随着数据集中数据量的不断增大, 本模型和算法将有更广阔的应用前景。 下面对所采用的矩阵三分解方法 (TFM) 进行介绍。设A∈R 由核范数的正交