如何控制人工智能（2）.docVIP

如何控制人工智能（2）

AndYoshuaBengionowarguesthatlargelanguagemodelshavemasteredlanguageandknowledgetothepointthattheypasstheTuringtest.

约书亚·本吉奥现在认为，大语言模型已经掌握了语言和知识，水平高到它们可以通过图灵测试。

Iknowsomeskepticsaresaying,Nah,theyrejustoverhypedstochasticparrotsthatlackamodeloftheworld,buttheyclearlyhavearepresentationoftheworld.

我知道一些质疑者会说：“不，它们只是过度炒作的随机鹦鹉，没有这个世界的模型，”但它们显然有着世界的表征。

Infact,werecentlyfoundthatLlama-2evenhasaliteralmapoftheworldinit.

我们最近发现Llama-2甚至有一张真实的世界地图。

AndAIalsobuildsgeometricrepresentationsofmoreabstractconceptslikewhatitthinksistrueandfalse.

AI还构建了更抽象概念的几何表现形式，比如它对是非的认知。

SowhatsgoingtohappenifwegetAGIandsuper-intelligence

如果我们有了AGI和超级智能，会发生什么？

Ifyouonlyrememberonethingfrommytalk,letitbethis.

如果你只会记得演讲中的一点，那就记住这一点吧。

AIgodfather,AlanTuringpredictedthatthedefaultoutcomeisthemachinestakecontrol.

人工智能教父艾伦·图灵预测默认的结果就是计算机掌控一切。

Themachinestakecontrol.

计算机掌控一切。

Iknowthissoundslikesciencefiction,but,youknow,havingAIassmartasGPT-4alsosoundedlikesciencefictionnotlongago.

我知道这听起来像科幻小说，但是，像GPT-4这样聪明的人工智能在不久前听起来也像科幻小说。

AndifyouthinkofAI,ifyouthinkofsuper-intelligenceinparticular,asjustanothertechnology,likeelectricity,youreprobablynotveryworried.

如果你将AI，尤其是超级智能，视为一项司空见惯的技术，比如电力，你可能并不会十分担心。

Butyousee,Turingthinksofsuper-intelligencemorelikeanewspecies.

但是你看，图灵认为超级智能更像是一个新物种。

Thinkofit,wearebuildingcreepy,supercapable,amoralpsychopathsthatdontsleepandthinkmuchfasterthanus,canmakecopiesofthemselvesandhavenothinghumanaboutthematall.

想一想，我们正在培养可怕的、能力逆天的、不道德的心理变态，它们不需要睡觉，脑子转得比我们快得多，可以复制，没有丝毫人性。

Sowhatcouldpossiblygowrong?

可能会出什么问题呢？

AnditsnotjustTuring.

不只是图灵。

OpenAICEOSamAltman,whogaveusChatGPT,recentlywarnedthatitcouldbelightsoutforallofus.

为我们带来ChatGPT的OpenAICEO山姆·阿尔特曼最近警告说，这可能会是“全人类的黑暗”。

AnthropicCEO,DarioAmodei,evenputanumberonthisrisk:1