稀疏表示算法在GPU的优化.doc

稀疏表示算法在 GPU 的优化 摘要： 介绍稀疏表示的背景、应用范围和 GPU 并行计算的发展。结合对当前稀疏表示的主流 算法分析，以及对 GPGPU 平台 CUDA 编程模型的理解，实现稀疏表示算法在并行性上的优 化处理，并通过实验与 CPU 上的稀疏表示算法进行对比探讨。 关键词：稀疏表示；图形处理器；统一计算设备架构 中图分类号： TP391 Optimization of Sparse Representation Algorithm on GPU ZHAO GuangLuan, ZHANG HongGang Information an Communication Engineering School, Beijing University of Posts and Telecommunications, Beijing 100876 Abstract: Introduce the background of sparse representation, ?eld of application and the development of General-purpose computing on GPU. With the analysis to popular sparse representation algorithms and the comprehension of Compute Uni?ed Device Architecture, an optimization of Sparse Representation is proposed. Furthermore, an experiment between a GPU implement and a CPU one will be held to ?nd out the performances of two platform. Key words: Sparse Representation;GPU;CUDA 0 引言 稀疏表示，又称为压缩感知[1]，是近年来关于图像识别、计算机视觉、数值计算等领域的 研究热点。由于稀疏表示应用广泛，较难计算，因此不断有学者针对求解稀疏问题提出特定的 算法。尽管如此，现有算法没有充分考虑算法并行性问题，在并行环境中不能合理利用多计算 核心的资源。 另一方面，在 CPU 多核化、服务器集群化的背景之下，并行计算领域越来越受到重视。 简单的单线程任务已经无法充分利用多核 CPU 带来的优势。如何尽可能利用多核 CPU、服 务器集群的性能，已成为软件工程师必须考虑的问题。多台机器协作运行，到一台多 CPU 机 器的运作，再到近年的多核 CPU，并行计算的应用已从军事、大型科学计算等领域逐渐走到 大众生活，大型科技公司纷纷提出自己的并行框架，并行计算受到更多人的关注。 -1- 1 稀疏表示 稀疏表示 (Sparse Representation)，又称为压缩感知 (Compressive Sensing)，它意欲用尽 可能少的非 0 系数表示信号的主要信息，从而简化信号处理问题的求解过程。在信号处理方 面，稀疏表示的一个重要应用是压缩采样。与传统的基于频域采样模型不同，稀疏表示的核心 思想是将共享各信号间的共性，然后用极少量信息（稀疏向量）表示他们的差异，理论上不再 受奈奎斯特准则限制。稀疏表示吸收了传统压缩理论的优点，然后克服其不足，现在逐渐成为 一个重要的基础研究领域。 由于稀疏表示的本质是凸优化问题[2]，因此可以直接使用解决一般凸工具如内点法来解 决。但事实表明，由于稀疏问题的特殊性，普通的算法并不能高效地进行对其求解。因此，人 们针对和利用稀疏问题的特殊性，提出了许多特定的算法[3]。这些算法能较有效率地解决稀疏 问题，也推动了稀疏表示在实际问题中的应用。 1.1 稀疏表示求解形式 稀疏表示的原始模型为：  min ||x||0 s.t. Ax = b x  (1) 其中 b ∈ Rn 为待处理信号，A Rn×m 为基函数字典，x Rm 为稀疏表示求解结果， ||x||0 m。||x||0 为 x 的稀疏度，它表示向量 x 中非 0 的个数。由于 ||x||0 在数学上被证明 是非凸的，其最小化问题是 NP-hard 问题，在计算机上求解非常困难[4]。 为了能实际求解稀疏表示，可以把 ||x||0 近似为 ||x||1，其中 ||x||1 为 x 中所有元素的绝对 值之和，因此稀疏表示的一般表达式为：  min ||x||1 s.t. Ax = b x  (2)  1.2 求解算法 求解稀疏问题可以使用拉格朗日乘子法 (Augmented Lagrange Multiplier, ALM)