压缩感知引论.doc

压缩感知引论 1 引言 我们在一场数字革命中，这场革命正在引领着具有不可比拟的逼真度和分辨率的新型传感系统的发展和应用。这场革命的理论基础是Kotelnikov, Nyquist, Shannon和 Whittaker在连续时间带限信号采样方面做出的引领工作。他们的结果证明，无论是信号、图像、影像还是其他数据，都可以从一系列均匀采样准确的恢复出来，但采样需要满足所谓奈奎斯特率（感兴趣信号的最高频率的两倍）。利用这个发现，多数信号处理都从模拟转向数字域，并引领了摩尔定律的发展。数字化使得更稳定、具有适应性、更便宜以及更为广泛使用的数字传感器和信号处理系统被发明出来。 由于这种成功性，传感系统所产生的数据量从滴水发展为了奔流。不幸的是，在许多重要和新兴的应用里，所需要的奈奎斯特定律太高以至于我们需要采集过多的数据。作为选择，建造可以获取那么高的采样速率的仪器可能会十分昂贵，甚至不可物理实现。因此，尽管在计算功率上有非同寻常的进步，对诸如成像、视频、医学图像、遥感监测、光谱学和基因数据分析领域的信号获取和处理仍然面临巨大的挑战。 考虑处理高维数据所带来逻辑和计算的挑战，我们需要依靠压缩，这旨在发现信号的最简洁表示，这样就可以获得可以接受的目标级的失真。最流行的信号压缩技术之一是变换编码，这主要基于找到一个基或框架，其能够提供信号的稀疏的或是可压缩的表示方法。通过稀疏表示，我们意味着对长为n的信号，我们可以用远小于n的k个非零系数来压缩表示，也就是说信号被很好的用一个只有k个非零系数的信号近似。稀疏和可压缩信号都可以使用仅保留信号大系数的值和位置来高逼真的表示。这个过程成为稀疏近似，其形成了利用信号稀疏性和可压缩性的变换编码框架的基础，包括JPEG, JPEG2000, MPEG和 MP3等标准。 作为促使压缩编码理念的改进，压缩感知（CS）已经作为信号采集和传感器设计的一种新的框架出现了。压缩感知使得在对具有稀疏或可压缩表示的传感信号具有潜在的巨大的在采样和计算消耗上被缩减的可能性。虽然奈奎斯特-香农理论认为最小采样数是为了完美地采获任意带宽信号而确定的，当信号在可知基下稀疏时，我们可以大量减少需要被存储的测量数。因此，当采集稀疏信号时，我们可能比传统结果做的更好。这就是压缩感知后面的基本思想：不利用奈奎斯特采样而后压缩，我们更倾向于寻找直接在低采样率下获知信号压缩形式的方法。压缩感知领域起源于Candes, Romberg, Tao 和 Donoho等人的工作，他们表明对存在稀疏或是可压缩表示的有限维信号，都可以从一系列线性和非自适应的测量中恢复出来。这些框架的设计和其对实际信号模型和采集系统的延伸是压缩感知领域的中心挑战。 虽然这种思想近来才在信号处理领域获得关注，在远到18世纪就出现了这种思想的萌芽。在1795年，Prony提出了一种噪声下参数估计算法，其使用较小数目的复指数。下一个理论的飞跃来自于二十世纪初，Caratheodory指出任意k谐波的正线性组合都由其在t=0处的值和时域上的其他2k点处的值唯一确定。这表明当k较小而可能的频率范围较大时只需要远小于奈奎斯特采样率的采样。在二十一世纪九十年代，这项工作被George, Gorodnitsky和 Rao在学习双磁成像及其他内容时所推广。同时，Bresler, Feng和 Venkataramani提出了在可能的谱域支持限制下获取包含k个非零带宽分量的确定信号的采样框架，然而实际的发现并没有保证其广泛性。在二十一世纪初期，Blu, Marziliano和 Vetterli发展了对由k个参数决定的确定参数信号的采样方法，其表明这些信号可以仅通过2k的采样进行采样和恢复。 一个相关的问题关注于从傅里叶谱变换的部分观测来恢复信号。Beurling给出了一种通过插值这些观测来决定其整个傅里叶变换的方法。可以看出当信号包含有限数目的冲激时，其方法将可以从任意足够大的傅里叶变换的部分中正确恢复（该非带限信号的）整个傅里叶变换。他的方法——从所有信号中寻找与获得傅里叶观测匹配的具有最小 范数的信号——与压缩感知中的一些算法具有显著的相似性。更近的，Candes, Romberg, Tao 和 Donoho 指出一个具有稀疏表示的信号可以完整的从一个小的线性、非自适应测量中恢复出来。这个结果表明对稀疏信号的感知可能采取远少的测量，因此称为压缩感知。需要注意，虽然，压缩感知与传统采样理论在三点上有所不同。第一，采样理论主要考虑有限长度的连续时间信号。与之不同，压缩感知是一种关注于测量 中无限维矢量的数学方法。第二，与采样时域上的特定点不同，压缩感知系统主要以信号与更广泛的测试函数的内积的形式来获取观测。这实际上是现代采样定律类似的以更广泛的线性测量来获取信号的精神。第三，这种两种框架在他