希尔伯特神经算子：解析信号域中的算子学习.pdfVIP

希尔伯特神经算子：解析信号域中的算子学习

SamanPordaneshPejmanShahsavari

UniversityofCalgaryUniversityofCalgary

DepartmentofSoftwareEngineeringDepartmentofGeoscience

saman.pordaneshasl@ucalgary.capejman.shahsavari@ucalgary.ca

HosseinGhadjari

UniversityofCalgary

DepartmentofPhysicsandAstronomy

hossein.ghadjari@ucalgary.ca

本Abstract

译神经算子作为学习偏微分方程（PDEs）解算子的强大数据驱动范式而崭露

中头角。最先进的架构，如傅里叶神经算子（FNO），通过在频域中执行卷积

1取得了显著的成功，使其对广泛的问题高度有效。然而，这种方法有一些

v局限性，包括傅里叶变换的周期性假设。此外，除了相位和幅度的角度外，

2

8还有其他分析信号的方法，并为我们提供了学习有效网络的其他有用信息。

8我们介绍了希尔伯特神经算子（HNO），一种新的神经算子架构，通过引入

4来自信号处理的强大归纳偏置来解决一些优势。HNO通过对输入信号进行

0

.希尔伯特变换以映射到其解析表示开始操作，从而使瞬时幅度和相位信息

8

0成为学习过程中的显式特征。然后对这种经过希尔伯特变换的表示应用核

5心可学习的操作——频谱卷积。我们假设该架构使HNO能够更有效地为

2

:因果、相位敏感和非平稳系统建模算子。我们正式化了HNO架构，并提供

v

i了其设计的理论动机，这些动机根植于解析信号理论。

x

r

a

1介绍

寻找一个能够学习偏微分方程（PDE）的算子的解决方案是科学和工程中的核心挑战。传统

上，数值求解器已经在许多查询上下文中准确计算了PDE的解，例如不确定性量化、最优

控制和反问题。近年来，通过神经算子框架，深度学习展示了有希望的替代方案，该框架直

接学习无限维函数空间之间的映射(Luetal.,2019;Kovachkietal.,2023)。这种方法的主要

优势在于能够学习单个代理模型，可以快速解决给定PDE族的任何实例，从而降低了离线

训练的高成本。

其中一个最成功的架构是傅里叶神经算子（FNO）(Lietal.,2020)。FNO利用卷积定理和

快速傅里叶变换（FFT）的速度，在频域中对算子的积分核进行参数化。通过将全局卷积执

行为傅里叶空间中的逐元素乘法，FNO已经证明自己是一种适用于各种基准问题的强大且

离散不变的方法，包括粘性流体动力学和达西流动。

尽管取得了成功，FNO的基本假设与其基础傅里叶基的性质几乎没有关联。傅里叶级数最

适合表示周期性和平稳信号；但对于包含一些局部特征、急剧不连续（如激波）或频谱随时

间变化的非平稳动力学问题，则可能效率低下。所有这些都可能导致诸如在激波附近出现吉