生成式人工智能技术风险的刑法谨慎性规制.pdfVIP

第２６卷第１期武汉科技大学学报（社会科学版）Ｖｏｌ．２６，Ｎｏ．１

２０２４年２月Ｊ．ｏｆＷｕｈａｎＵｎｉ．ｏｆＳｃｉ．＆Ｔｅｃｈ．（ＳｏｃｉａｌＳｃｉｅｎｃｅＥｄｉｔｉｏｎ）Ｆｅｂ．２０２４

生成式人工智能技术风险的刑法谨慎性规制

童云峰张学彬１２

（１．华东政法大学中国法治战略研究院，上海２０１６２０；２．东华理工大学文法与艺术学院，江西南昌３３００１３）

摘要：刑法介入生成式人工智能技术风险应采取包括刑法规制的后卫性、保护性和就轻性等内容

的谨慎性规制模式，其符合技术中立原理、刑法谦抑性原则和刑法可允许风险理论的要求，值得提

倡和践行。在适用刑法谨慎性规制模式时，应秉承法益保护原则和比例原则，需要廓清刑事法治

外部的技术规则、行业规则以及前置法和刑法的适用畛域，同时也要明确刑事法治内部重罪和轻

罪的作用边界。在刑法适用范围之外，虚假信息生成风险和违反使用规则的行为可以分别由技术

规则和行业规则处理。介于民事不法与犯罪未遂之间的行为以及纯粹破解技术措施使用生成式

人工智能的行为，应当优先适用民事法律，而算法妨害行为和网络服务提供者未履行适当管理义

务的行为应由行政法规制。在刑法适用范围之内，应优先适用轻罪，在构成要件明确的罪名和兜

底罪名中选择明确性的罪名，在预防性罪名和实害性罪名中选择预防性罪名。

关键词：生成式人工智能；谨慎性；法益保护原则；比例原则；谦抑性

中图分类号：Ｄ９２４文献标志码：ＡＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１００９⁃３６９９．２０２４．０１．００５

一、问题的提出

进入数字时代，生成式人工智能技术火爆出圈，其规模化的应用在催生新的经济增长点的同时，

也带来了一系列法律问题。例如，美国游戏设计师杰森·艾伦（ＪａｓｏｎＡｌｌｅｎ）利用能够组装素材的ＡＩ

绘图工具Ｍｉｄｊｏｕｒｎｅｙ生成的绘画作品获得艺术博览会比赛一等奖，引发艺术创作被机器取代的讨论，

［１］

其可能涉及知识产权侵权风险。再如，某用户利用ＤｅｅｐＦａｋｅ（深度伪造）将情色电影主人公的脸替

［２］

换成某女演员的脸，引发网友大规模的评论与转发，该行为可能涉及对肖像权或名誉权的侵犯。

又如，２０２３年初，意大利停止使用ＣｈａｔＧＰＴ，因为ＣｈａｔＧＰＴ涉及对公民个人信息的非法收集与处理，

［３］

侵害了个人信息权益与数据安全。毋庸置疑，提供和使用生成式人工智能服务不可避免地携带技

术风险，并对传统法律适用带来新的挑战。

在既有研究中，较多学者强调对生成式人工智能等相关技术行为进行入罪规制，将具有保障法地

位的刑法推上台前。例如，有学者认为，可以增设“滥用人工智能罪”和“人工智能产品事故罪”，从故

［４］

意犯罪和过失犯罪两方面对人工智能技术提供者或使用者的行为加以规制。同时，针对提供和使

用生成式人工智能技术行为侵犯数据法益的情形，主张增设“非法分析数据罪”和“操纵数据罪”，并

收稿日期：２０２３⁃０９⁃２８

基金项目：上海市哲学社会科学规划课题青年项目“数字时代个人信息权益的全生命周期刑法保护研究”（编号：

２０２３ＥＦＸ０１０）；互联网法治研究院（杭州）２０２３年度互联网法治重点研究课题“个人信息权益的刑法分类分级保障机

制研究”．

作者简介：童云峰，华东政法大学中国法治战略研究院特聘副研究员，法学博士，主要从事数字法学研究．

４８武汉科技大学学报（社会科学版）２０２４年第１期