压缩感知理论与应用(附重建算法详述)剖析.ppt

为解决该问题，HQ 方法重新构造新的目标函数 这里新增加了辅助变量b 其中 是二次函数； 满足 因此有 由于引进的的规整项是半二次，因此得名 一种是乘性的 一种是加性的 HQ规整化用于简化 为 非凸函数，并且A有很多非零元素时的最小化问题的求解。 采用交替最小化函数的方法 具体的 对任意的 ， 选择为 则第k次的解为 若第k-1次的解为 ， 对任意 ，向量 使得 根据以上公式，可知 因此，序列 当 收敛。特别的 对于乘性的形式，对偶函数 则 将上式带入目标函数，有 对任意的 ， 选择为 对于乘性形式，有 当b选定后，x就是选择使得 由 可得 其中 从而 * * * 推广算法时进一步简化：给出一种等价形式，使我们不用计算矩阵，算向量就行了 * 共轭梯度法的计算量还要低一个量级，大型问题一般首选用它，中小型问题一般首选拟newton算法 考虑约束非线性规划问题 其中 ，可行域记为 ， ， ， 是 上的连续函数。 基本思想有，构造广义拉格朗日函数，惩罚范数使得约束问题转换为无约束问题；将非线性问题线性化，然后通过解线性规划问题求原问题的解等； 3.2约束问题求解 定义（1）式的广义拉格朗日函数为 则存在向量， （此条件叫Kuhn-Tucker约束规范） 3.2.1 外点法 构造一个由目标函数与约束函数组成的惩罚函数，对惩罚函数实行极小化。 先考虑只含有不等式约束的问题： s.t 构造一个函数 ： 将 作为t，显然当 时， ， 当 时， 构造函数 ： 求解无约束问题 若(5)式问题有解，设其最优解为 ，则由 (3)式和(4)式应有： 这就是说 因此 不仅是问题(5)式的极小解，也是问题(2)式的极小解。因此将问题(2)式的求解化为无约束问题(5)式的求解。 上述函数 的函数性态不好，它在t=0点不连续，也没有导数。希望构造出一个在任意点t处函数及其导数都连续的辅助函数。可选择如下的函数： 函数(6)式在t为任意值时， 与 都连续，且当 时仍有 当 时 为了使辅助函数能更快地满足要求，将引入一个充分大的正数M(0)，修改 为 求解问题(5)式就变为求解无约束问题(8)式 称函数 为惩罚函数（或罚函数），其中第二项 为惩罚项。称M为罚因子。 惩罚函数只对不满足约束条件的点实行惩罚。当 时，满足各个 ，故罚项等于0，不受惩罚；当 时，必有 ，故罚项0，对极小化罚函数的问题，就要受惩罚。 在实际计算中，罚因子M的值选得过小或过大都不好。如果选得过小，则罚函数的极小点远离约束问题的最优解，计算效率很差；如果M过大，则给罚函数的极