cy074 英伟达如何成为 AI 芯片巨头（下）[微foufoushus].pdfVIP

074|英伟达如何成为AI芯片巨头（下）

欢迎打开《蔡钰·商业参考3》，我是蔡钰。

人工智能产业第一次正式向英伟达招手，是在2012年。我们有必要再

简单介绍一下当时学术界和产业界的AI路线之争，来理解为什么是这

个年份。

联结主义

科学界从1950年代提出人工智能概念以来，逐渐分化出了三个学派，

分别是符号主义、联结主义和行为主义。

这三个学派我们可以把它们放到一个场景里来简单理解：语文教学。

符号主义类似我们传统的语文教学思路，就是侧重教授规则和逻辑。你

小时候上课肯定知道，老师会给你讲字词的意思、主谓宾结构、疑问句

反问句、文章的主要内容中心思想，还有详略布局等等。这些规则类比

到AI训练场景里，就像人工智能中的符号，AI通过掌握这些明确的规

则和逻辑来解决问题，就像人类学生按照学到的规则来组词造句、分析

课文。

联结主义类似于语文教学中的语感培养。老师会要求学生在课内课外大

量阅读，这边读5个童话，那边读10首诗、让学生在哪怕不知道“主

-1-

谓宾”这种造句规则的前提下，也会逐渐体会到树叶应该是“落下来”，

而不是“跳下来”。类比到AI训练场景里，就是大量投喂数据，让AI

自己琢磨出通用的语言规则。

行为主义，则类似任务导向学习，或者叫项目制学习。老师给学生布置

一篇作文，然后陪着学生从第一稿改到第十一稿，这个过程不断地给反

馈给批评、给表扬、给指导，让学生在过程中提高写作能力。对应到

AI训练的场景里，行为主义AI就更讲究把机器人扔到实际的环境里去

摔摔打打，让它自己学习提高。

你肯定听出来了，联结主义，就是模仿人类神经网络联结原理的“深度

学习”研究流派，所以你要是听到联结主义、神经网络和深度学习，在

AI研发领域，它们都指的是这种技术方向。人脑中的无数神经元，是在

并行处理5个童话和10首诗里带有的信息，把它们跟神经网络里已有

的信息相连接，而且是在没有获得明确规则指引的前提下，把这些信息

之间的关联给建立起来。这也正是我们前面讲过的GPU所擅长的并行

计算。

神经网络学派在今天已经毫无疑问成为了AI训练的主流，但在过去很

长时间里，它是很边缘化的。原因也很简单：给AI搭建神经网络，对

算力要求太高了。早年的技术环境实现不了。我们拿已经问世的GPT-3

-2-

举例子，它1750亿参数的一次训练，大约需要3.1410^23的浮

点运算。

这个数据很复杂，你不用记。总之这种量级的算力要求，在GPU成为

超算硬件之前，人类是很难实现、也很贵的。哪怕是GPT问世之后，

要在10天内训练一个千亿参数规模的大模型，也得动辄花费1.43亿美

元。这还只是单次训练成本，没有考虑前期研发。

所以在人工智能研发早期，高昂的成本挡住了深度学习流派的路。在还

看不见进展、回报的前提下，主流的高校和研发机构都更倾向于选择符

号主义路线，来控制研发AI的成本。

AlexNet神经网络

但是，2008年事情改变了，英伟达把CUDA与GPU送进了全球理工

院校，这启发了一部分深度学习研究者。慢慢的，这个流派的研究者发

现，GPU就是支持自己流派研究的理想硬件。所以，CUDA在学界的

影响力，逐渐蔓延到2012年，发生了一件大事。

2012年，在斯坦福大学发起的一场全球性的AI图像识别竞赛上，多伦

多大学的一个三人研究小组，交出了一个名叫AlexNet的AI神经网络，

它不但夺得了比赛冠军，而且识别准确率比当时的第二名高出41%，

优势巨大。

-3-

人工智能领域震惊了，纷纷去探究AlexNet怎么做到的。答案是，这

个研究团队是唯一一个用英伟达的CUDA平台来训练神经网络的参赛

团队，他们的成功就是基于4颗英伟达的GPU芯片。

其实在这场比赛之前，谷歌也已经启动了自己的神经网络研究项目谷歌

大脑。但谷歌注意到这个团队之后才发现，AlexNet早前只用了两块

GPU显卡，就实现了谷歌用16000个CPU训练出来的同等效果。

多说一句，这个多伦多大学的三人研究小组里有一位，名叫伊利亚·苏茨

克维，他就是后来在OpenAI的首席科学家，也是尝试把山姆·阿尔特

曼