“弱强超”AI的仿人理路及风控演化研究.pdf

人工智能与信息社会２０２４年第４期

“弱强超”ＡＩ的仿人理路及风控演化研究

潘军

摘要ＡＩ核心的研发思路和演进原则是仿人，且ＡＩ的智能层次与智能

水平及价值风控因“弱强超”三级智能ＡＩ仿人的功能或程度不同而有所差异。

弱ＡＩ主要模仿人的局部智能，仿人的风控设置简单、方式单一；强ＡＩ或通用ＡＩ

模仿人的内容复杂，仿人的风控理路多元、集成性强，其核心是要求ＡＩ遵循人的

一般正常思维和行为准则；超ＡＩ阶段，既要确保智能机器在正常情况下的安全、

可靠、可控、可用，又要确保在异常情况下有理性的干预与价值调控。对仿人原

则的落实，既要求在ＡＩ研发应用的全过程中严格遵循人的一般正常思维和行为

价值准则，又要求ＡＩ植入道德智能系统和价值智能系统，即为了确保三级智能

ＡＩ始终围绕造福人类的价值指向健康持续发展，势必要把ＡＩ的智能水平和仿

人原则实现的风控条件及演进规律放在ＡＩ技术层面、伦理层面等多方面、多维

度地进行深化研究。

关键词人工智能智能水平仿人原则理性价值价值风控

一、引言

①

人工智能（ＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ，简称“ＡＩ”）技术开发的核心理路是“仿人”。回顾

ＡＩ出现的近６０年历史，ＡＩ尽管一直在模仿人的理路上努力探索演进，但未能摆脱初步

性、局部性仿人的仿人原则制约。特别是近年来，ＡＩ在文字识别、图像识别、语音识别、机

器翻译、机器学习、专家决策系统等层面实现了突破性进展，拥有了深度智能化的技术能

力。尤其是随着机器计算力的指数级增长，以及机器智能训练所需大数据资源的指数级

聚集，ＡＩ拥有了向着更高的智能层级方向发展的可能性，仿人原则引领价值风控也向着

更微观的方向发展。

作者简介：潘军，法学博士，贵州商学院副教授、硕士研究生导师，清华大学和中国科学

院大学联合培养博士后。

基金项目：国家社会科学基金一般项目“ＡＩ时代中国公民道德选择能力定性与定量研

究”（２１ＢＫＳ１６５）；贵州省科协重大项目“贵州实施数字产业强链行动的重难

点及抢占发展高地策略研究”（ＧＺＫＸ２０２３ＳＴ００２）。

①潘军、姚科敏：《ＡＩ智能层级与仿人实现的价值调控与治理研究》，《重庆大学学报（社会科学版）》，２０２２年第４期。

８９

阅江学刊２０２４年第４期

ＡＩ近６０年的发展史，较为充分地反映了其核心发展理路和发展原理之一，是使用各

种技术手段通过计算机控制ＡＩ终端模仿或者代替人类做一些事情或思考，可以说是一部

ＡＩ“仿人”史和仿人风控史。新时代以来，由于计算机网络、大数据、智能算法等技术手段

的创新发展与应用，计算机的某些专项智能水平指标已经超越了人类，带动提高了机器的

①

仿人智能水平，甚至在一些方面机器的仿人表现远远超过了人类自己的实践能力。如此

惊人又可喜的成就极大地促进了人类的生产生活，人类当然会备受鼓舞地继续深入研究，

以便开发出更加符合需求的ＡＩ，甚至可能会建造一个模仿人类社会的“智能机器人类世

界”。诚然，现实中难免出现创造性研发与设想的预设性价值目的与理想化价值效果之间

的偏差，表现为人类在推进ＡＩ的创新、研发应用过程中，“不可避免”地出现各种不如意、

不平衡、不理想发展等问题和风险，如机器在自我训练、自我复制、自我演化等过程中一定

程度地存在软件故障或硬件瑕疵，甚至还可能存在机器智能超过人类智慧的奇点

②

（Ｓｉｎｇｕｌａｒｉｔｙ）问题与风险。而这些问题和风险随时有可能导致机器失控，对人类构成严重

威胁。特别是由于ＡＩ基于技术的开源性、普及性，ＡＩ的使用呈现广泛化、大众化，影响越