模式伴随化及其代价分析.pptVIP

4-2 LPBM实现：结构与划分深度依赖性 是 内程序对象，并具有深度为 的树形深度引用结构。 由两部分组成：含过程或函数引用部分 和不含过程或函数引 用部分 ，依次称为程序的非线性部分和线性部分。 （可加性） 一级划分 深度代价分析 表示整个引用树结构中第 层深 度相对位置序号为 的（子过程或函数）节点，其中 为第 层所有节点的数目。 和 分别为其子节点的起始位置和子 节点数， 为 的非线性部分。 定义 做如下选择：从根节点 开始，找到子节点 ，满足 ；继续这样的操作直到某个末节点 ， 得到一系列 ，满足 ，其 中 。令 于是 类似地，可以从分析根节点的静态存储开销出发，自上而下地 逐级寻找所有子过程的最大瞬时内存开销，最后可得整个模式 的静太存储估计。这里仅给出几个结论： 做如下选择：从根节点 开始，找到子节点 ，满足 ；继续这样的操作直到某个末节点 ，得到一系 列 ，满足 ， 其中 。令 ，有 4-3 数值试验 1. 气候模式 GCM/DYFRM 的微分代价 2. 气候模式 AGCM/PHYSIC 的微分代价 3. GPS RAYS模式xyz2g过程的微分代价 4. GPS RAYS模式 RP子过程的微分代价 5. GPS RAYS模式LSS子过程的微分代价 气候模式AGCM/DYFRM的微分代价 原模式 TL模式 * 模式伴随化及其代价分析 资助项目 国家高技术研究发展计划项目“偏微分方程并行算法基础研究与软件开发” 二. 中国科学院知识创新工程信息化建设专项“超级计算环境建设与应用” 三. 国家重大基础研究项目“大规模科学计算研究” － “大规模科学计算研究计算工程软件系统的基础理论和实施” (G1999032801, G2839200, G1999032805) 四. 国家杰出青年科学基金（批准 合作单位和主要网站 中科院大气物理所大气科学和地球流体力学国家重点实验室 中科院计算机网络信息中心超级计算中心 中科院计算数学与科学工程计算研究所科学与工程计算国家重点实验室 一. 超级计算环境基础并行软件平台建设与应用 /sce 二. 自动微分算法及其应用 /autodiff /adpages 内容提要 一. 研究背景、基本概念 二. 自动微分算法 三. 基于最小程序行为分 解的模式伴随化方法 四. 微分代价分析 数值试验 一. 研究背景 1. 许多高精度数值模式，依赖非线性最优化方法。而后者或多 或少地依赖函数的一阶和高阶（方向）导数信息。例如，在 牛顿迭代法求解极小值过程中，梯度信息可以保证迭代的收 敛性，而海森矩阵则能加速这种收敛的过程。 2. 自动微分在无截断误差意义上计算函数的（方向）导数，具 有计算精度高、代价合理以及可靠性好等优点。如今，自动 微分方法已成功运用于诸如资料变分同化、误差分析、奇异 向量分解、参数敏感性分析、系统参数辩识、多学科最优设 设计以及模式可预测性分析等广泛领域之中。 3. 运用伴随模式求解函数梯度无疑具有理想计算时间代价。然 而，无论是伴随模式开发难度还是其随问题规模线性增长的 存储开销都大大限制了其适用范围。 4. 分析求解海森矩阵是 AD 面临的另一个难题。 海森矩阵的计 算时间和空间存储代价都与独立变元数目的平方成正比。即 使求解海森矩阵-向量乘积， 其计算时间代价也有原模式的 13 倍之多, 存储代价更是难于估计。 5. 自动微分作为一门独立学科，迄今已有数十年的历史。我们 一直试图从基本概念、基本方法、基本问题和基本应用几个 方面来描述这个领域的基本框架。同时，如何基于一些基本 假设建立起该领域的基本程序空间，并在此基础上建立起客 观反映微分代价的测度，探讨决定和影响微分代价的一些本