ChatGPT技术原理与未来展望.pdfVIP

前言

[美]斯蒂芬•拉姆（StephenWolfram）·这就是ChatGPT

本书试图用第一性原理解释ChatGPT的工作原理，以及它为何奏效。可以说这是一个关于技

术的故事，也可以说这是一个关于科学的故事、一个关于哲学的故事。为了讲述这个故事，我

们必须汇集数个世纪以来的一系列非凡的想法和发现。

看到自己长期以来感的众多事物一起得到突飞猛进的发展，我感到非常兴奋。从简单程序

的复杂行为到语言及其含义的特征，再到大型计算机系统的实用性，所有这些都是

ChatGPT故事的一部分。

ChatGPT的基础是人工神经网络（本书中一般简称为神经网络或网络），后者最初是在20

世纪40年代为了模拟理想化的大脑运作方式而发明的。在1983年第一次编写出了一

个神经网络，但它做不了什么有趣的事情。然而40年后，随着计算机的速度提高上百万倍，

数十亿页文本出现在互联网上，以及一系列重大的工程创新，情况已然大不相同。出乎所有人

意料的是，一个比我在1983年构建的神经网络大10亿倍的神经网络能够生成有意义的人类

语言，而这在之前被认为是人类独有的能力。

本书包含我在ChatGPT问世后不久