一种分区稀疏变分高斯过程用于快速分布式空间建模-计算机科学-超级计算机-稀疏变分高斯过程.pdf

文章标题:快速分布式空间建模的分区稀疏变分高斯过程

运行标题:分割稀疏变分高斯过程

作者•迈克尔·J.格罗斯科普夫

统计科学组

洛斯阿拉莫斯国家实验室

•Kellin拉姆西

统计科学组

洛斯阿拉莫斯国家实验室

•阿扬比斯瓦斯

信息科学组

洛斯阿拉莫斯国家实验室

•耳尔劳伦斯

本统计科学组

译洛斯阿拉莫斯国家实验室

中

通讯作者:MichaelJGrosskopf,mikegros@

1

v关键词:原位分析,气候,平行计算

1

7

7

6

1

.

7

0

5

2

:

v

i

x

r

a

一种分区稀疏变分高斯过程用于快速分布式空间建模

一种分区稀疏变分高斯过程用于快速分布式空间建模

MichaelGrosskopfKellinRumseyAyanBiswasEarlLawrence

LosAlamosNationalLaboratory

Abstract1介绍

下一代美国能源部超级计算机将能够进行下一代美国能源部超级计算机将能够每秒执行超

exascale计算。对于这些机器来说，可能过次浮点运算，达到exaFLOP级别。在这些

的计算量远大于可以保存到磁盘的数量。exascale计算机中，计算能力已经超过了输入/输

因此，用户将无法依赖事后访问数据来进出能力。也就是说，它们可以计算的量远超可以保

行不确定性量化和其他统计分析，并且迫存到磁盘的数量(Cappelloetal.,2009)。因此，用

切需要能够在现场训练的复杂机器学习算户不再能够依赖于事后访问数据来进行不确定性

法。在这种情况下部署的算法必须高度可量化和其他分析任务。相反，用户将需要实时分析

扩展、内存高效并且能够处理分布在节点方法就地，在模拟运行的同时对数据进行实时分析

上的空间连续分区的数据。一种合适的方(Oldfieldetal.,2014)。

法涉及独立并行地为每个空间分区拟合一这些机器的许多应用将是模拟随时间演变的空间

个稀疏变分高斯过程（SVGP）模型。所得场。这包括物理实验、宇宙学、空间天气和气候的模

模型是可扩展的、高效的，且通常准确，但拟。因此，对于空间模型的原位方法将成为许多分

会产生由于相邻模型在共享边界处存在分析(Grosskopfetal.,2021;Rumseyetal.,2022)的

歧而导致响应表面不连续的不良效果。在基础构建块。在此领域将存在一些挑战(Shalfetal.,

这篇论文中，我们通过允许相邻空间分区2010)。首先，数据量将会非常大，所以模型和方

之间进行少量通信来鼓励局部模型更好地法的计算和内存需求需要很好地扩展。在原位设置

对齐，从而延伸了这一想法，这导致更平中，我们需要估计相对快速或空间建模将成为模拟

滑的空间