从应用陷阱到防治壁垒：人工智能风险的两重性认识及机制应对.pdf

湖北社会科学2024年第7期

从应用陷阱到防治壁垒：

人工智能风险的两重性认识及机制应对

罗晓东，赵宏瑞

摘要：当前国内外学界对人工智能风险类型的认识基本围绕着技术歧视、技术犯罪与技术依

赖三个方面，但是这些对人工智能风险认知的观念形式依然是片面的，难以挖掘人工智能技术特

性所导致的防治壁垒和困难。人工智能风险本质上具有两重性，一是在应用领域对人类社会造

成的直接危机，其真正的风险形式埋藏在正面形象和作用之下，如人设游戏中的信任诱导陷阱、

人机交往中群性迷失陷阱、公共实践中的合法歧视陷阱；二是在防治领域对人类社会造成的间接

困境，其源于技术特性与社会形态的深刻关联，如技术大众化风险、媒介私密化风险、后真相迂回

的挑战。人工智能风险防治必须正视直接风险和间接风险的双重性，以此为基础探析治理机制，

使技术运行在阳光之下。

关键词：应用陷阱；防治壁垒；人工智能；风险；机制

中图分类号：C02；G206文献标识码：A文章编号：1003-8477（2024）07-0081-09

随着人工智能技术的广泛传播与作用，社会生智能技术。由此，一场围绕新知识、新风险和新规

产力和生产关系正在随之发生巨大变革，人类认知范的相互角逐，不可逆转地在世界范围内拉开了帷

及获取信息的方法和偏好也在随之改变，知识成本幕。当前在ChatGPT等技术创新的全球推广下，以

与知识壁垒逐渐被削弱，而国家间以人工智能创新通用人工智能（ArtificialGeneralIntelligence，简称

为中心的技术竞争不断升级。2017年中国最早发AGI）技术为中心的技术大众化、私密化和后真相的

布了《新一代人工智能发展规划》，布局人工智能竞新趋势及其创造性破坏，更是成为各国不得不重视

争战略。2018年英国政府发布了《人工智能产业审和重审人工智能风险的重要因素，成为迫在眉睫、

查》的报告，其中包含了对人工智能产业的立法建亟待解决的核心任务与理论议题。

议。2019年欧盟发布了《人工智能的道德指南》文一、问题缘起：人工智能风险的主要类型及认识

件，提出“合法、道德、稳健”的人工智能发展规范。正如贝克的《风险社会》，作为现代性的后果，

2020年美国国会通过了《AI在政府中的未来》法案，人类在驯服自然和控制自身的同时总是会产生种

据此设立了专门的“人工智能卓越中心”（AICenter种新的未知的意图以外的危机，而这些正是必须得

ofExcellence），推动美联邦政府更广泛地采用人工到认识和管理的“风险”。[1](p16-17)因此，风险管理成

收稿日期：2024-04-30

作者简介：罗晓东（1991—），男，哈尔滨工业大学（深圳）马克思主义学院博士研究生（广东深圳，

518055）；赵宏瑞（1968—），男，经济学博士，哈尔滨工业大学人文社科与法学学院长聘教授、博士生导师

（黑龙江哈尔滨，150006）。

基金项目：国家社科重大项目“数据主权与国家主权研究”（22ZD200）。

·81·

为科学技术发展不可避免的有机组成，技术与风险或标签的技术歧视却在大量增加，因而，间接歧视

的联系密不可分，新技术再生产着新风险，新风险的权利损害构成了人工智能技术歧视的主要组成

的防治又在完善和推进着技术发展。人工智能的和形式。[6](p1143-1185)

风险管理亦是人工智能发展的突出问题和基本表（二）技术犯罪的风险

现，充分认识人工智能风险是形成有效机制应对的使用技术对某个具体对象的针对性伤害是构

前提。但在技术悲观主义的强调下，当前国内外学成技术犯罪的基本内涵。同理，诸如技术歧视的损

界认为人工智能的技术歧视、技术犯罪与技术依赖害，只有上升到直接针对某个个体的具体损害，才

三个方面的技术风险往往具有负面的不可规避的能进入技术犯罪的概念范畴。技术犯罪风险是具

色彩，由此使得人工智能的技术创新和技术发展饱有主观故意的后果，是当前人工智能发展的主要阻

受