AI对齐的关键阻滞、路线探新及重要意义——基于迈向通用人工智能的现实呼唤.pdfVIP

２０２５年３月重庆邮电大学学报(社会科学版)Ｍａｒ.２０２５

第３７卷第２期ＪｏｕｒｎａｌｏｆＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＰｏｓｔｓａｎｄＴｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎｓ(ＳｏｃｉａｌＳｃｉｅｎｃｅＥｄｉｔｉｏｎ)Ｖｏｌ.３７Ｎｏ.２

ＤＯＩ:１０.３９７９/１６７３￣８２６８.２０２４０１０８００１

引用格式:王明.ＡＩ对齐的关键阻滞、路线探新及重要意义———基于迈向通用人工智能的现实呼唤[Ｊ].重庆邮电大学学报

(社会科学版)ꎬ２０２５(２):１０４￣１１５.

ＡＩ对齐的关键阻滞、路线探新及重要意义

———基于迈向通用人工智能的现实呼唤∗

王明

(东北财经大学马克思主义学院ꎬ辽宁大连１１６０２５)

摘要:从ＣｈａｔＧＰＴ到ＤｅｅｐＳｅｅｋꎬ生成式人工智能的智能化程度不断提升ꎬ为人类社会创造福祉

的巨大潜力也逐渐凸显ꎮ生成式人工智能技术所创造的巨大商业价值已经促使人工智能领域

的巨头快速推动这项技术的迭代ꎬ从而使生成式人工智能迈向通用人工智能的路径变得愈发清

晰ꎮ然而ꎬ生成式人工智能技术让人类喜忧参半的特性ꎬ决定了人类在面对未来可能出现的通

用人工智能技术时必须保持谨慎态度ꎮ为确保其设计和应用符合社会期望及人类利益ꎬ需要建

立一种伦理基础:ＡＩ对齐ꎮ目前的关键问题是ꎬＡＩ对齐需要整合学界对ＡＩ认识的理论分歧ꎬ攻

克机器学习的风险性和人自身的脆弱性等现实挑战ꎮ当下人工智能业界和学界已初步形成ＡＩ

对齐的目标和方法ꎬ但这些方法尚无法满足人工智能技术从生成式迈向通用式的现实需求ꎮ基

于此ꎬ亟需探索ＡＩ对齐的新路线:政府应加快推进ＡＩ对齐的法律和技术伦理规范出台ꎬ人工智

能企业要强化多样性和包容性的数据训练ꎬ多领域专家要加强对话与合作ꎬ用户要积极反馈ＡＩ

系统使用中出现的问题ꎮ鉴于人工智能技术从生成式迈向通用智能技术的现实需求ꎬＡＩ对齐

对于实现安全有益的通用人工智能意义重大ꎮ通过ＡＩ对齐ꎬ能够避免人工智能出现价值观偏

差ꎬ防止其对人类产生不当影响ꎬ切实保护人类利益ꎮ

关键词:ＡＩ对齐ꎻＣｈａｔＧＰＴꎻＤｅｅｐＳｅｅｋꎻ大型语言模型ꎻ通用人工智能ꎻ人类安全

中图分类号:Ｂ０￣０文献标识码:Ａ文章编号:１６７３￣８２６８(２０２５)０２￣０１０４￣１２

一、问题的提出

随着生成式人工智能技术的迭代发展ꎬ人工智能技术伦理问题比以往任何时期都更加复杂和紧迫ꎬ

∗收稿日期:２０２４￣０１￣０８修订日期:２０２５￣０２￣１９

基金项目:国家社科基金项目(中央马工程委托项目):我国科技创新体制机制研究(２０２０ＭＹＢ０３８)

作者简介:王明ꎬ讲师ꎬ法学博士ꎬ主要从事人工智能安全与治理研究ꎬＥ￣ｍａｉｌ:２１８６５９４６１９＠ｑｑ.ｃｏｍꎮ

１０４

正困扰着当前和未来人工智能技术的研发和应用ꎮ以自动驾驶和无人配送等为雏形的智能体(Ａｇｅｎｔ)已

经出现ꎬ未来世界中智能体必定无处不在ꎬ多智能体会改变一切ꎮ而未来人机如何博弈?人类如何利用

人工智能机器为社会创造更多福祉?这关键取决于人工智能机器拥有怎样的“世界观”ꎮ假设其变得比

人类聪明ꎬ将会引发怎样的严重后果?２０２３年５月２３至２４日ꎬ美国军方通过一次模拟的“思想试

[１]

验”ꎬ证实ＡＩ驱动的无人机会为了自身利益选择杀死人类操作员ꎮ这次“思想试验”给人类敲响了警

钟:一旦人类研发出超越自身的超级智能(ｓｕｐｅｒｉｎｔｅｌｌｉｇｅｎｃｅ)ꎬ它们会不会伤害人类甚至毁灭人类?能不

能现在就开发拥有价值观和道德观的ＡＩꎬ使其将来不会加害于人类?

如今ꎬ围绕ＡＩ技术发展潜在风险的担忧不断增加ꎬ种种应对理念与措施都指向了一个关键问题:ＡＩ

对齐(ＡＩａｌｉｇｎｍｅｎｔ)ꎮ各国政府部门、人工智能企业以及学界已经积极采取行动ꎬ探讨如何推动ＡＩ对齐ꎮ

[２]

例如ꎬ