稀疏表示在信号处理中的应用.pptxVIP

SparseRepresentationsforSignalProcessingandCoding120140420

outlineWhataresparserepresentations/approximations?Howtofindsparserepresentations/approximations?HowtofindthedictionaryD?Whataresparserepresentations/approximationsgoodfor?2

Whataresparserepresentations/approximations?定义：用较少的根本信号的线性组合来表达大局部或者全部的原始信号信号。其中，这些根本信号被称作原子，是从过完备字典中选出来的；而过完备字典那么是由个数超过信号维数的原子聚集而来。可见，任一信号在不同的原子组下有不同的稀疏表示。3

Whataresparserepresentations/approximations?4

Howtofindsparserepresentations/approximations?寻找少量重要的系数来表示原始信号的技术被称作SparseCoding〔稀疏编码或稀疏分解〕；从任意一个字典中为原始信号寻找最稀疏的表示常用的方法分类两类：①贪婪算法，比方匹配追踪〔MP〕、正交匹配追踪〔OMP〕、弱匹配追踪〔WMP〕、阈值方法等；②松弛算法，比方迭代加权最小二乘〔Iterative-Reweighed-Least-Squares，IRLS〕、基追踪〔BP〕等。其中，贪婪算法的特点是速度快，精度相对较低；松弛算法是精度高，但速度慢。5

Howtofindsparserepresentations/approximations?现假设字典D和信号X，进行稀疏编码的问题可以表示为L0优化问题这也是一个组合优化问题。穷举法——NP难：假设的非零项数目为L(sparselevel)，先令L=1，字典里的每一个原子〔列向量〕尝试一遍，看是否满足终止条件，共有K种组合。如果没有满足，再令L=2，再次尝试，共有K(K-1)/2种组合。还没有满足条件的，那么令L=3……组合的数目呈指数增长，于是遇到了NP难问题。贪婪算法——MatchingPursuit第一步，找到最接近X的原子，等效于向量上仅取一个非零项，求出最接近的原子，保存下来；第二步，计算误差是否满足要求，如果满足，算法停止，否那么，计算出残差信号，和第一步类似，找到最接近残差向量的原子，保存下来；第三步，调整已选向量的系数，使得最接近X，重复第二步。松弛算法——BasisPursuit，将L0问题转化为L1问题，解决的方法有很多，比方内点法、迭代收缩法等。事实上，它可以化成一个线性规划的问题，用MATLAB很容易解。6

HowtofindthedictionaryD?寻找字典的过程称为字典学习。字典学习的一个假设是字典对于指定信号具有稀疏表示。因此，选择字典的原那么就是能够稀疏地表达信号。两种方法来设计字典:从的变换基中选取，比方DCT、小波基等，这种方法很通用，但是不能自适应于信号。学习字典，即通过训练和学习大量的与目标数据相似的数据来获得。这里，我们介绍一种叫K-SVD的方法。7

8假设现在有原始信号矩阵，该矩阵的每一行表示一个信号或者一张图片，D矩阵是字典矩阵，右下方是稀疏解矩阵S，红色的点表示非零项。HowtofindthedictionaryD?——K-SVD

HowtofindthedictionaryD?——K-SVDStep2:?SparseCoding.用松弛或者贪婪法进行稀疏编码，使得9Step1:Initialize.在矩阵中随机挑选一些行向量(一些原图〕，填满矩阵D，并归一化每一列。得到稀疏表示构成稀疏矩阵S的第i行。S

HowtofindthedictionaryD?——K-SVD10?Step4：StoppingRule.如果则停止迭代。S

Whataresparserepresentations/approximationsgoodfor?稀疏性是DFT、WT和SVD分解得以广泛利用的原因之一，这些变换的目的都是为了反映信号确实定性结构，并用紧凑的或稀疏的表示来表征这些结构；稀疏表示的思想为模式分类方法建立了根底，比方SVM和RVM，其中稀疏性直接与估计函数〔estimator〕的学习