科技伦理嵌入人工智能治理体系的路径展开——以自动驾驶应用场景为例.pdfVIP

科技伦理嵌入人工智能治理体系的路径展开

———以自动驾驶应用场景为例

赵精武*

内容提要：人工智能技术风险具有风险重叠交叉的特征，单一的治理工具无法有效控制技

术风险，因而科技伦理治理的引导规范作用开始受到关注，并被引入人工智能治理体系。

然而，现有研究大多停留于科技伦理层面探讨相应的治理机制建构路径，未能充分阐明科

技伦理治理机制如何与法律、技术和市场等其他治理机制相互结合，发挥协同治理的效

果。科技伦理治理本质上属于一种方向型、引导性治理机制，具体的治理功能包括引导、

协商、识别和反馈四个要素，与此对应的治理机制包括科技伦理风险研判管理机制、科技

伦理风险识别评估机制和科技伦理风险反馈应对机制。具体到自动驾驶领域，则表现为包

括科技伦理风险、技术安全风险、权益侵害风险和市场失序风险在内的一体式评估，确认

不同风险的轻重缓急并采取针对性治理机制。

关键词：科技伦理人工智能治理体系科技伦理审查体系化治理自动驾驶

DOI：10.19350/j.cnki.fzsh.2024.05.002

一、问题的提出

ChatGPT（ChatGenerativePre-trainedTransformer）所展现的智能化水平远远超出社会预期，更

是将数字社会推进至“人工智能技术阶段”。在当下，人工智能技术最为热门的核心研究议题便是

如何充分实现人工智能技术的社会效益并控制潜在技术风险，这同时引发了计算机科学、法学、伦

理学等众多学科的人工智能风险治理研究浪潮。在法学领域，大有人工智能法学研究占据法学研究

“半边天”的研究趋势。诚然，其中确实存在或多或少的“研究泡沫”或“蹭热点”，甚至部分研究

呈现“技术治理理论研究远超技术发展实践”的超前状态，但这实为学界面对科技创新逐渐成熟的

局面所必然经历的过程。随着学者们对新旧风险、真假问题的论证深入，相应的研究趋势也从“逐

一列举风险逐一提供建议”等风险对策论逐渐聚焦至训练数据合法使用、侵权责任分配等具体问

题。要言之，人工智能领域需要一种更为系统且全面的治理体系。

这种人工智能治理体系的研究倾向，一方面回应了当下人工智能统一立法的社会关注重点，另

一方面则是为了应对人工智能技术风险对既有治理体系的冲击。面对当下以及未来潜在的各类技术

风险，法律、伦理、技术、市场等任何单一治理机制都难以有效预防和控制。特别是在“利用人工

*北京航空航天大学法学院副教授。本文系北京市社会科学基金青年学术带头人项目（项目批准号：24DTR051）的阶段性成果。

·16·

科技伦理嵌入人工智能治理体系的路径展开

智能复活死者”“自动驾驶应用颠覆网约车市场”等场景中，法律风险、科技伦理风险等多元化风

险类型相互交织，使得技术治理实践需要采取一种更为综合性的治理模式，以便全局性地解决技术

应用的风险多元化问题。事实上，诸如体系治理、综合治理、协同治理等治理理论被学者们视为解

决人工智能治理问题的不二选择，甚至只要言及此类研究，不少学者必提及劳伦斯·莱斯格在《代

码2.0》中提出的“市场、架构、社会规范和法律”四维度治理框架。因此，法律、伦理、技术、

市场等治理工具被逐一纳入人工智能治理框架，并建构了诸如科技伦理审查、国家技术