读焦李成-压缩感知回顾与展望有感.docxVIP

压缩感知回顾与展望---焦李成 概论 压缩感知是建立在矩阵分析、统计概率论、拓扑几何、优化与运筹学、泛函分析等基础上的一种全新的信息获取与处理的理论框架.它基于信号的可压缩性,通过低维空间、低分辨率、欠Nyquist采样数据的非相关观测来实现高维信号的感知.压缩感知不仅让我们重新审视线性问题,而且丰富了关于信号恢复的优化策略,极大的促进了数学理论和工程应用的结合. 背景及意义 压缩感知理论的提出？ 随着当前信息需求量的日益增加,信号带宽越来越宽,在信息获取中对采样速率和处理速度等提出越来越高的要求.而传统的奈奎斯特采样定理在对信号进行采样时，采样速率必须是信号带宽的两倍才能保证原始信号无失真地恢复。 由D Donoho、E .Cand.s及华裔科学家Tao等人提出的压缩感知(Compressive Sensing,CS)理论指出了一条将模拟信号“经济地”转化为数字形式的压缩信号的有效途径。在该理论下,信号的采样速率不再取决于信号的带宽,而是取决于信息在信号中的结构与内容,因此在满足的两大特性：(1)信号的可压缩性,(2)表示系统与观测系统的不相关性两大条件下,从低分辨观测中恢复高分辨信号就成为了可能.CS理论显著降低数据存储和传输代价,以及信号处理时间和计算成本。 CS被美国科技评论评为“2007年度十大科技进展”,D.Donoho因此还获得了“2008年IEEE IT学会最佳论文奖”。CS的发展：分布式CS理论,1-BITCS理论,Bayesian CS理论,无限维CS理论,变形CS理论、谱CS、边缘CS理论、Kronecker CS理论、块CS理论等。2011年4月,第一本关于CS的专著 《Compressed Sensing: Theory and Applications》出版, 汇集了世界各国学者在CS理论和应用上的观点和成功范例. CS理论与奈奎斯特采样定理的区别： 尽管压缩感知理论最初的提出是为了克服传统信号处理中对于奈奎斯特采样要求的限制,但是它与传统采样定理有所不同.首先,传统采样定理关注的对象是无限长的连续信号,而压缩感知理论描述的是有限维观测向量空间的向量;其次,传统采样理论是通过均匀采样(在很少情况下也采用非均匀采样)获取数据,压缩感知则通过计算信号与一个观测函数之间的内积获得观测数据;再次,传统采样恢复是通过对采样数据的Sinc函数线性内插获得(在不均匀采样下不再是线性内插,而是非线性的插值恢复),压缩感知采用的则是从线性观测数据中通过求解一个高度非线性的优化问题恢复信号的方法.首先介绍压缩感知的数学模型. CS理论的基本框架 信号x的稀疏表达，为正交基字典矩阵。 对信号x执行一个压缩观测: ，为观测矩阵，两者不相关。 从y中恢复x是一个解线性方程组的问题,但从方程上看,这似乎是不可能的,因为这是一个未知数个数大于方程个数的病态方程,存在无穷多个解. 但是记CS信息算子ACS=,可以得到: 虽然从y中恢复也是一个病态问题,但是因为系数是稀疏的,这样未知数个数大大减少,使得信号重构成为可能. 那么在什么情况下的解是存在的呢?可以证明:只要矩阵ACS中任意2K列都是线性独立的,那么至少存在一个K-稀疏的系数向量满足.换言之,在满足上述要求的情况下,通过求解一个非线性 优化问题就能从观测y、观测矩阵和字典矩阵中近乎完美的重建信号x.信号压缩感知的过程如图2所示: 3.1压缩感知的条件 两个条件： 1. 要满足信号在正交基字典矩阵下的稀疏性或可压缩性，即信号需要在变换空间下的展开系数足够的稀疏; 2．由观测系统所确定的CS信息算子ACS,需要满足任意2K列都是线性无关的. 在这两个条件都同时满足时,就可以通过求解如下问题: 获得一个唯一确定的解,即稀疏系数向量,将它与字典相乘,就可以得到信号x. 这是一个NP-hard的非凸优化问题，此问题的求解方法两类：以匹配追踪(Matching Pursuit,MP)和正交匹配追踪(Orthogonal Matching Pursuit, OMP)为代表的贪婪算法,以及迭代阈值收缩为代表的门限算法. 贪婪算法存在的问题是时间代价过高,无法保证收敛到全局最优;而门限算法虽然时间代价低,但对数据噪声十分敏感,解不具有连续性,且不能保证收敛到全局极小. 由Cand.s和Donoho提出的l1范数下的凸化压缩感知恢复框架是一个里程碑式的工作. 基本思想是将非凸的优化目标用l1范数来代替: 这就将式非凸优化问题变成了一个凸优化问题,可以方便地转化为线性规划问题求解,因此称之为凸化的压缩感知框架。 CS理论提出之初,绝大多数研究都建立在此基础上.在有限等距性质(Restricted Isometry Property,RIP)和有限等距常数(Restricted Isomet