制衡还是共生：生成式人工智能治理的技术校准与行动框架.pdf

制衡还是共生：

生成式人工智能治理的技术校准与行动框架

杨 雅 苏 芳 章雪晴*

【摘 要】生成式人工智能的发展突出了技术的加速度与社会治理框架的不协调问题。

本文以生成式人工智能对社会结构的突变性影响为切入点，分析以数据安全为代表的

技术风险、技术利维坦和隐私安全等社会风险以及以认知思维构陷为代表的决策风险

等突出问题，在技术权力置换与社会格局重组中寻找生成式人工智能技术校准的基准

点，并以中观与微观数智素养培育为行动起点，以期在“有形边界”之外，为生成式

人工智能发展提供“无形边界”与伦理素养规范的治理逻辑与行动框架。具体来说，

首先，在宏观层面，需要构建一个全球性的治理框架，以应对生成式人工智能的全球

性挑战，在跨国际的治理合作中构建一个安全、公平、可持续的全球性生成式人工智

能治理体系，实现广域的数字化联合。其次，在中观层面，需要建立健全制度体系，

以规范生成式人工智能的研发、应用和推广的政策法律等“有形边界”，同时进行社

会层面的道德规制，找准技术校准点，为保障该技术的健康发展提供更有益的社会环

境。最后，在微观层面，需要关注个人的惯习和认知，以无形之力搭建起人类与生成

式人工智能技术之间的认知边界、信任边界和文化边界，以期在个体层面上提升人们

对生成式人工智能的认识和理解。

【关键词】生成式人工智能；无形边界；技术校准；社会治理；数智素养

1

随着人工智能、区块链、深度学习、物联网等新一代数智技术的集成迭代与扩散，在深度媒

介化和网络化的社会进程中，生成式人工智能技术不断融合创新，影响社会关系变革，重塑人类劳

动方式。个体得以从重复劳动中抽身，投身创造性的劳动。数智技术与人的“共生”带来人与社会

发展的价值优势，不过，生成式人工智能的发展也可能带来亟须“制衡”的伦理挑战。诸如数字不

平等和信息层面的失序和伦理风险，导致虚假宣传、误导欺诈、意见操纵以及仇恨引导等信息的传

2①3②

播；人类对大语言模型等技术过度依赖的可能性，降低批判性思维与决策能力，形成智能时代

*杨雅，北京师范大学新闻传播学院副教授，博士生导师；苏芳，北京师范大学新闻传播学院博士研究生；章雪晴，北京师

范大学新闻传播学院硕士研究生。

①WeidingerL,MellorJ,RauhM,etal.Ethicalandsocialrisksofharmfromlanguagemodels,ArXiv.Org,2021.

②DergaaI,ChamariK,ZmijewskiP,etal.Fromhumanwritingtoartificialintelligencegeneratedtext:Examiningtheprospectsand

potentialthreatsofChatGPTinacademicwriting.BiologyofSport,2023,40(2).

4

··

制衡还是共生：生成式人工智能治理的技术校准与行动框架

的沉默螺旋，造成公共领域各主体话语权的失衡。

因此，面对技术的加速度，亟须思考与判别生成式人工智能技术的效能与风险，实现社会治理和

人工智能的负责任创新，即“创新+责任”，不仅仅是促使创新的升级，而是从根本思路上重新看待技

1①

术创新的伦理和社会层面影响，使得“技术和科学进步正确融入社会”。在技术的“摇摆”过程中锚

定技术校准的基点，在技术的权力“置换”过程中寻找治理逻辑的突破口，在法律政策的有形边界之

下，探索个体认知和数智素养的“无形边界”，构筑生成式人工智能的未来治理逻辑与行动框架。

一、摇摆的钟：生成式AI的技术效能与社会