05凸优化理论与应用_逼近与拟合.ppt

传统的信息获取和处理过程受采样定理的影响，需要先对信号进行不低于最高频率两倍频率进行采样，然后再进行其他处理。 信号压缩根据信号之间存在相关性的特性，通过去除相关性达到数据压缩的目的。 理论上而言，通过那奎斯特采样定理对信号进行采样太“保守”了。 能否直接将采样与去除相关性融合在一起完成？ 压缩感知简介 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 压缩感知简介 压缩感知思想由Cadanes和Donoho等人在2006年正式提出 Donoho D L. Compressed sensing. IEEE Transactions on Information Theory, 2006, 52(4): 1289-1306 Candés E, Romberg J, Tao T. Robust uncertainty principles: Exact signal reconstruction from highly incomplete frequency information. IEEE Transactions on Information Theory. 2006, 52(2): 489-509 具有稀疏表示的信源可以直接联合采样和压缩，在编码端进行简单的处理，以达到压缩编码的目的。 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 压缩感知简介 信源进行压缩感知编码的基本框架 压缩感知包括三个主要部分：稀疏表示、压缩传感测量和解码重构。 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 信号的稀疏表示 定义：如果一个信号中只有少数信号不为零，则称该信号是稀疏的。 自然信号的时域表示通常是不稀疏的，但在某些变换域内是稀疏的。 设长度为 离散时间域信号 ，存在一组标准正交基 信号可表示为该组基的线性组合，即 其中 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 信号的稀疏表示 定义：若 中只有 个非零元素，则称 为信号 的 稀疏表示。 注：信号的稀疏度与所选择的基有密切关系。 由于信号的稀疏性，理论上可以用较少数量的信号数表示原信号。 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 信号的压缩传感测量 压缩传感测量是对原始信号的一种测量表示方法。 给定一个测量矩阵 ，则原始信号的测量值为 其中 称为传感矩阵。 由于 ，因此对信号的重建问题变成一个解欠定方程组的问题，通常存在多解。 若加上稀疏性的要求，则该问题成为一个优化问题： 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 传感矩阵 约束等距性条件：对于任意 稀疏信号 和常数 ，若 成立，其中 ， 为 中由索引 所指示的相关列构成的大小为 的子矩阵，则称矩阵 满足约束等距性条件。 通常对于一个 稀疏信号，若满足 阶约束等距性条件，则可精确重构出原始信号。 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 传感矩阵 约束等距性条件的等价条件：若 和 不相关，则 满足约束等距性条件。 由于 通常固定，所以通常设计合适的 即可。 可选的 ： 高斯随机矩阵 局部哈达玛矩阵 一致球矩阵 二值随机矩阵 局部傅里叶矩阵 托普利兹矩阵 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 信号重构 范数的优化问题为NP难问题，求解复杂，一般采用求解 范数问题获得次优解。 或 求得最优解 后，即可重建原始信号 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * * 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn * 凸优化理论与应用 第五章 逼近与拟合 问题原型-回归问题 问题描述：给定一组 维向量 ，对给定的向量 ，用向量组 的线性组合近似表示 ，使