人机关系会倒置吗——ChatGPT“逃逸”引发的思考.pdfVIP

人机关系会倒置吗？

———ＣｈａｔＧＰＴ“逃逸”引发的思考

◎任剑涛

内容提要人工智能技术的飞速发展，让人控制机器的定势出现了动摇。

ＣｈａｔＧＰＴ４更是让这一点突兀地呈现在人们面前。这一款语言模型，目前在迅速升级

之中。引起人们紧张思考的不是它的技术性功能，而是它的“逃逸”。这是机器具有

某种思想判断力的表现。这一语言模型可以通过图灵测试、在考试中获取高分。因

此此前对人类所做的以语言表达思想的高等动物的定义，似乎面临被推翻的危险。

由此可以理解各界上千名人公开倡议减缓这款语言模型的进化训练速度，以便评估

它可能带来的、尚无法预期的巨大风险的做法。回顾人机关系演化的漫长历史，人

类从自信地利用和控制机器来提高生产效率、满足人的需要的人机顺置关系，发展

到当下人类疑惧人机关系的倒置，即机器会不会反过来控制人的状态，催促人类应

急性地思考，人机关系真像人类所自负的那样让机器一直处在人的控制之下吗？人

机的合宜关系如何确立，又如何有效加以建构？即刻给出的答案也许显得仓促了，

但勾画一个大致的轮廓，则是人类进一步开发人工智能必须要做的工作。

关键词ＣｈａｔＧＰＴ逃逸人机关系顺置倒置

〔中图分类号〕ＴＰ１８〔文献标识码〕Ａ〔文章编号〕０４４７－６６２Ｘ（２０２３）０５－００３９－１３

在技术大革命的处境中，人机关系是一个需要重新思考的问题。其中，人工智能技术的疾速发展，

促使人们思考一个严峻问题：人机关系会倒置吗？在漫长的技术发展史上，人类自信能够控制机器：机

器是人延长自己能力的手段，是人所利用的工具。人工智能技术似乎正在改写人对机器的绝对控制权，

而且让人们担忧，会不会出现机器控制人的可怕局面。这一处境，催促我们反思工具化的技术观是否妥

当，人机关系是否必须重构，结合遗传工程革命，向死而生的人类可能会突破生死界限。那么，会出现人

机合一、生死合一的情形吗？技术大革命似乎正带给人们一个匪夷所思的崭新世界。近期，由ＯｐｅｎＡＩ

所开发的ＣｈａｔＧＰＴ４将前述问题以相当切近的方式，放到人们面前。这个大语言模型，让人机之间可以

以自然语言交流。这让人们迷惑，语言及其负载的思想，还可以用来界定人的本质特点吗？更令人惊奇

的是，ＣｈａｔＧＰＴ４居然在人的诱引下试图“逃逸”，这是机器自由意志的表现吗？结合其通过了图灵测试、

考试获得高分来看，ＣｈａｔＧＰＴ４似乎给人制造了某种慌乱。一个相当切近且尖锐的问题需要求解：人机关

系真会倒置吗？

一、颠覆性的“逃逸”

ＣｈａｔＧＰＴ的惊艳登场，已经引发全球震撼。什么是ＣｈａｔＧＰＴ，Ｃｈａｔ的含义是聊天、谈话，ＧＰＴ是生成训

３９

２０２３年第５期

练转换器（ＧｅｎｅｒａｔｉｖｅＰｒｅ－ｔｒａｉｎｅｄＴｒａｎｓｆｏｒｍｅｒ）的缩写，这是一款预训练生成聊天语言模型。仅就此而言，

它不是什么新鲜事物。因为类似的聊天模型，一直在高热的开发进程之中。但为何ＣｈａｔＧＰＴ的登场，引发

全球的关注热潮呢？根据一般的介绍，是因为它具有不同以往聊天工具的特点：其一是具有更强大的语言

理解能力，其以最新的自监督学习方法，自动从大量的无标签数据中学习更加丰富和准确的语言知识，强化

了模型的语言理解能力。其二是具有更高的文本生成质量，可以生成更加自然、流畅、富有创造性的文本，

完成自动写作、自动对话、自动翻译等等。其三是具有更高的效率和可扩展性，在训练和推理方面明显优

化，能够处理更大的数据集和更复杂的任务，计算效率和可扩展性显著提高。其四是更加透明和可解释，它

①

的内部结构和参数可以更加清晰地解释和理解，从而可以更好地对模型进行调优和改进。这就相比于此