交替方向乘子法的安德森加速及其应用.pdf

摘 要 摘 要 工 题 可 于 即 函 和约束 许多 程应用 问 都 以归结 优化 问题 给定 标 数 求解最小 ， 值． 近 展 一 工程中 处理 越来 大 从 年以来 随着科技的发 ， 方面 所需要 的数据量 越 ， ， 题 也 了 ． 而要解决 的优化 问 的规模 越来越大， 大规模优化的算法受到 更多 的关注 一 一 题 些 况 函数 凸 且 另 方面， 随着 问 的复杂 度增大， 在 情 下 标 是非 并 非光滑 程 Ｄ 这 ． 子 Ａ ＭＭ 正 ， 使得 多传统的基于梯度 的优化方 失效 交替 向乘 法 （ 的 很 法 方 ） 一 于 和 凸 一 ． 可 是这样 种适用 大规模优化 非 非光滑优化的 种算法 当 标函数 以 量 和 且 两 一 约 离 两个关于不 变 的函数 ， 并 这 个变量 间有 个线性 束时， 分 成 同 之 之 Ｄ 这两 量 量 一 函 显 比 Ａ ＭＭ 交替优化 个变 以及对偶变 ． 般来说， 优化单个 数会 著 两 之和 经 ． 这些 化 个函数 简单， 实践中 常 以得到解析解或 能够并行优化 特 优 可 者 ＡＤＭＭ 一 的迭 而 于 ． 点使得 每 步 代代价非常低， 从 适用 大规模优化 在整个优化 ＡＤＭＭ 要这 而 之的 两 逼近 过程中 并不需 两个 函数 的梯度 取 代 是 个函