如何控制人工智能（1）.docVIP

如何控制人工智能（1）

Fiveyearsago,IstoodontheTEDstageandwarnedaboutthedangersofsuper-intelligence.

五年前，我站在TED舞台上，预警了超级智能的危险。

Iwaswrong.

我错了。

ItwentevenworsethanIthought.

情况比我想象的还要糟糕。

IneverthoughtgovernmentswouldletAIcompaniesgetthisfarwithoutanymeaningfulregulation.

我从没想过政府会在没有任何有效的监管下让人工智能公司发展成这样，

AndtheprogressofAIwentevenfasterthanIpredicted.

而且AI的进步比我预期的还要快。

Look,IshowedthisabstractlandscapeoftaskswheretheelevationrepresentedhowharditwasforAItodoeachtaskathumanlevel.

这是一幅任务的抽象图，其中海拔代表了AI要以人类水平完成每项任务的难度。

AndthesealevelrepresentedwhatAIcouldbebackthen.

而海平面代表了AI曾经的水平。

Andboyorboy,hastheseabeenrisingfasteversince.

从那以后，海平面一直在快速提高。

Butalotofthesetaskshavealreadygoneblubblubblubblubblubblub.

有很多任务已经被水淹没。

Andthewaterisontracktosubmergeallland,matchinghumanintelligenceatallcognitivetasks.

海水势必淹没所有的土地，在认知任务中与人类智慧媲美。

Thisisadefinitionofartificialgeneralintelligence,AGI,whichisthestatedgoalofcompanieslikeOpenAI,GoogleDeepMindandAnthropic.

这就是通用人工智能的定义，也是OpenAI、谷歌DeepMind和Anthropic等公司的既定目标。

Andthesecompaniesarealsotryingtobuildsuper-intelligence,leavinghumanintelligencefarbehind.

这些公司也在努力打造超级智能，远超人类智能。

Andmanythinkitllonlybeafewyears,maybe,fromAGItosuper-intelligence.

许多人认为，从AGI到超级智能，可能只需要几年的时间。

SowhenarewegoingtogetAGI?

我们什么时候能做出AGI呢？

Well,untilrecently,mostAIresearchersthoughtitwasatleastdecadesaway.

直到最近，大多数人工智能研究人员还认为至少还有几十年的时间。

AndnowMicrosoftissaying,Oh,itsalmosthere.

微软说：“哦，差不多了。”

WereseeingsparksofAGIinChatGPT-4,andtheMetaculusbettingsiteisshowingthetimelefttoAGIplummetingfrom20yearsawaytothreeyearsawayinthelast18months.

我们在ChatGPT-4中看到了AGI的苗头，而Metaculus博彩网站显示，在过去的18个月中，距离AGI时间从20年后骤降至3年后。

Andleadingindustrypeoplearenowpredictingthatwehavemaybetwoorthreeyearsleftuntilwegetoutsmarted.

行业领袖现在预测我们距离被人工智能超越也许还有两三年的时间。

Soyoubetterst