人工智能技术应用风险应对制度的不足及其完善路径——以法律规制为视角.pdfVIP

2024年12月四川警察学院学报Dec.，2024

第36卷第6期JournalofSichuanPoliceCollegeVol.36No.6

人工智能技术应用风险应对制度的

不足及其完善路径

——以法律规制为视角

郑少飞

摘要：随着人工智能技术的迅猛发展，其应用过程中的潜在风险也日益显现。当前针对人工智能

技术应用风险的应对举措在法律层面存在两方面不足：一是人工智能技术应用内生风险导致的法律引

导不足；二是法律制度在应对人工智能技术应用外部风险时数据信息公开不够、算法披露效果不佳。为

有效应对人工智能技术应用风险，应当在坚持人类中心主义原则、自由原则以及平等原则的前提下完

善法律制度，明确新兴权利的描述性标准与规范性标准，构建“沙箱”环境并设置具备在线纠纷解决功

能的前置程序。

关键词：人工智能技术；人工智能技术应用；风险应对；法律规制

DOI:10.16022/51-1716/d.2024.06.011

中图分类号：D902文献标志码：A文章编号：1674-5612（2024）06-0030-09

一、问题的提出

自1956年“人工智能”的概念被确立以来，人工智能技术不断发展，尤其在21世纪，深

度学习技术取得突破，促进了其更广泛的应用，进而大大推动了社会的进步。然而，人工智

能技术的应用也带来了诸多挑战与风险。例如，在法律层面，有研究指出，人工智能的应用

［1］

导致传统社会秩序变迁，这对法律的应对能力构成了挑战。公权力因新技术的使用面临

［2］

侦查权增强、审判权嬗变及司法行政权扩张等风险。同时，人工智能相关企业掌握大量

［3］

公民信息，这模糊了公私权力边界，使法律的监管存在风险。我国积极迎接挑战和破解

风险，通过《新一代人工智能发展规划》《人工智能安全治理框架》等政策，从宏观规划进入

具体实施阶段，逐步完善了专项治理体系和保障措施。然而，科技发展衍生的复杂风险及

高科技的潜在破坏力超出了传统公权力控制的范围，使传统以理性化手段克服风险的方法

［4］

失效。公权力单独应对这些风险已显不足，需转向以协同性、动态性、分层性和复合性为

［5］

特点的多中心主体参与模式应对。因此，构建合理的法律框架、完善相应的法律制度已

基金项目：四川省哲学社会科学重点研究基地——社会治理创新研究中心2023年基层共建共治共享专项课题：生成式人工

智能赋能基层社会法律纠纷解决的路径选择（SHZLYX2304）

收稿日期：2024-09-10

作者简介：郑少飞，男，四川成都人，西华大学法学与社会学学院讲师，博士，北京盈科（成都）律师事务所律师，主要从事法学

理论、数字法学研究。

30

郑少飞人工智能技术应用风险应对制度的不足及其完善路径

成当务之急。

二、人工智能技术应用风险法律应对制度的不足

（一）人工智能技术应用内生风险法律应对制度的不足

随着人工智能技术的快速发展和广泛应用，大数据技术的更新和算法的迭代已成为人

工智能系统发展的核心。尽管人工智能的相关技术正在不断完善，但当下技术的缺陷依然

给人们带来诸多的内生风险。人工智能技术的内生风险通常源自其设计、开发、训练和应

用过程中的多种因素。常见的内生风险包括：数据偏见风险、错误内容误导风险、公平缺失

风险。在数据偏见风险中，如果训练数据集存在偏见，那么人工智能系统的输出则会反映

这些偏见。例如，仅包含特定