谈ChatGPT必须思考清楚几个议题.docx

谈ChatGPT必须思考清楚几个议题

本文导读：

1.功能性vs人格化：两种本质相反的牵引力

2.不用可信vs必须可信：少部分人细思恐极，大多数人惶然而不自知

3.真命题vs假命题：AGI不是一个好命题

4.商业价值vs商业模式：发明电灯的人不一定直接享受到电力革命的红利，却依然值得歌颂

5.理论洁癖vs暴力美学：长期信仰来自深刻理性

6.有意瞄准vs无意击发：一场企业家精神对科学界的反哺

1.功能性vs人格化：

两种本质相反的牵引力

ChatGPT作为史上界面最朴素却圈粉最快的科技产品，给人的冲击感不是发生在眼球层面，而是颅内层面的。

火到“上头”背后有两重原因：

一方面是功能性的胜利，如帮人们写作文、编程、收集结构化资料，其内容生成的速度和质量甚至超出很多在AI行业深耕多年的从业者的预期；

另一方面是人格化的胜利，它会理解意图、声明立场、表达恭喜、道歉、自我修正答案，并拥有上下文的记忆连贯性，体现出实时的自主学习能力，简言之，就是“像人”。

打个比喻，因为渴望飞行又没有翅膀，人类造出了飞机。一直以来，AI界一直在“造飞机”，之前各类突破性进展都让飞机的功能性越来越强，而ChatGPT却似乎造出了一只“鸟”。这也是为什么ChatGPT被很多从业者定位为“通用人工智能（AGI）”雏形的原因。

功能性与人格化看似在这一代ChatGPT上得到了平衡，但从本质看，二者有着相反的牵引力。

如果追求功能性，重点是回答本身的正确、精准、靠谱，最好其回答有明确的可溯源的出处。排除写作文等本来就需要发挥创意的功能，不同人问同一个问题应该有类似的答案（千人一面），因为大部分功能性问题是在寻求正确解或最优解。这更像“改进版搜索引擎”，NewBing就是这么做的，这有其明确的价值，却不是革命性的体验；

如果追求人格化，重点是交互感、创新性、超预期，意味着不能有死记硬背的感觉，因为死记硬背并不是人类学习与交互的惯性方式，这意味着回答要有个性、丰富性、多样性甚至狡猾性。

诡异的地方恰恰在于，后者往往比前者看起来更“聪明”，更“机灵”，但往往更“不可信”。

在今天版本的ChatGPT中，你可以轻易诱导它犯错，而且它会犯许多出乎你预料的错，有的回答会一本正经地胡说八道，有的回答会陷入滔滔不绝的“废话文学”，但由于它的表达方式足够讨巧，会认错、道歉，会自我“澄清”，因此这甚至让你感到开心、好玩、可爱——ChatGPT正是以人格化特征建立了用户心理的“容错性”，而这也是为什么人格化相比功能性是今天ChatGPT大火更显著的助燃剂（大家纷纷在朋友圈晒问答，被分享的段落绝大部分是ChatGPT表现出情商的片段、超预期的部分、搞错的部分）。

在诸如“评价一下甲子光年”这样的问题中，ChatGPT的回答是带有狡猾性与迎合性的。如果你在对话前文表达了对甲子光年的认可，ChatGPT马上就会附和，是一个机灵的捧哏，但换个人再问，回答立刻变成不知道——ChatGPT只是在当前对话中根据用户反馈进行修正，当我们重启一个对话，测试相同的问题时，ChatGPT会表现出失忆或犯错。

从原理看，今天的ChatGPT之所以给人一种很强的“理解力”，是因为ChatGPT是“重新表达”材料，而不是从数据库中逐字引用，这让它看起来像一个学生用自己的话表达思想，而不是简单地重复它读过的东西。

“重新表达”和搜索是两件事——正是因为这种“重新表达”，造成了ChatGPT“理解”了材料的“错觉”。

然而，举一反三和胡编乱造间有一个微妙的界限，这个界限在人与人之间的对话中往往也是模糊的。这就引发了一个关键问题：ChatGPT可信吗？

什么是可信？如何辨别其回答是否可信？这些问题背后，还有一个前置性问题：ChatGPT的一系列延伸价值和未来想象，是否需要建立在“可信”的基础上？

2.不用可信vs必须可信：

少部分人细思恐极，大多数人惶然而不自知

很多人想当然地以为，现在不够“可信”，是因为模型还不够大、数据还不够多、技术还不够强，或者是因为缺乏安全技术与监管手段，这是对“可信”的理解还不够透彻。

内容分两种，一种的本质属性不依赖“可信”，一种的本质属性必须“可信”。

前者往往是killtime（消磨时间）类型内容，核心是抓住用户的时间，占领时间越多越好，用户越上瘾越好。典型代表是今日头条、抖音、各类游戏。字节系诸多产品最初都以放弃可信度换取UGC的海量内容，以个性化取代了绝对权威，以“最适合的”取代了“最优解的”。文章视频从相对高门槛的作者生产、编辑分配，变成相对低门槛的用户生产、算法分配，构建了算法推荐的世界；

后者往往是savetime（节省时间）类型内容，核心是准确、科学、实用、工具属性，典型代表是搜索引擎、维基百科。很多人近来逐渐减少在搜索引擎上投入的时间，转而去知乎甚至B站搜索，也恰恰