通过 LEAN 中的上下文证明学习发现新定理.pdfVIP

通过 LEAN 中的上下文证明学习发现新定理.pdf

通过LEAN中的上下文证明学习发现新定理

APREPRINT

KazumiKasauraNaotoOndaYutaOriike

OMRONSINICXCorporationOMRONSINICXCorporationCyberAgent

AutoResNexaScienceAutoRes

kazumi.kasaura@AutoResoriike_yuta_xa@cyberagent.co.jp

naoto.onda@

MasayaTaniguchiAkiyoshiSannaiShoSonoda

RIKENAIPKyotoUniversityRIKENAIP

本AutoResRIKENAGISCyberAgent

译masaya.taniguchi@riken.jpShigaUniversityAutoRes

中NIIsho.sonoda@riken.jp

NISTEP

vAutoRes

4sannai.akiyoshi.7z@kyoto-u.ac.jp

9ABSTRACT

5大型语言模型在形式化定理证明中表现出显著的潜力。然而，之前的工作主要集中在解决现

2有问题上。本文重点研究了LLMs发现新定理的能力。我们提出了一个自动生成数学猜想并

v以Lean4格式进行证明的猜想-证明循环管道。我们的方法的一个特点是，在包括先前生成

x的定理及其证明在内的上下文中生成和证明进一步的猜想，这使得通过上下文学习证明策略

a而不改变LLMs参数的情况下能够生成更难的证明。我们展示了我们的框架通过验证重新发

现了过去的数学论文中发表且尚未形式化的定理。此外，其中至少一个定理即使在自然语言

中也无法被不使用上下文学习的LLM证明，这意味着上下文学习对神经网络定理证明是有

效的。

源代码可在/auto-res/ConjecturingProvingLoop获得。

1介绍

大型语言模型（LLMs）在定理证明方面展示了巨大的潜力。由于LLMs可能会产生幻觉，且难以在自然语言

中检测到这种现象，因此使用LLM生成形式证明并利用交互式定理证明器（ITP），如Lean1，进行验证的研

究受到了关注。然而，先前的工作主要集中在解决现有问题上。本文则侧重于研究LLMs发现新定理的能力。

我们提出了猜想-证明循环，一个用于自动生成数学猜想并在Lean4格式下证明它们的管道。通过将猜想和

证明阶段分开，我们避免了生成定理的收敛，并鼓励证明更难的定理。

更多 >