生成式人工智能的刑事法律风险及其合规治理.pdf

2024年8月河南社会科学Aug.，2024

第32卷第8期HENANSOCIALSCIENCESVol.32No.8

生成式人工智能的刑事法律风险及其合规治理

11，2

刘霜，祁敏

（1.天津大学法学院，天津300072；

2.青海民族大学法学院，青海西宁810007）

摘要：大数据时代，生成式人工智能迅猛发展，呈现出强大的创造性与适应性。但由于其运作机理及

内生缺陷等原因，生成式人工智能在输入、运算及输出各个阶段，可能引发诸如危害国家安全，侵犯公民个

人信息、知识产权、商业秘密等刑事风险。应当秉承前瞻性治理理念，坚持刑法的谦抑性，避免刑法过度介

入，构建事前合规、事中监管、事后整改的三重分级合规治理体系，以期有效应对刑事责任风险，同时为人工

智能技术的广泛应用提供法治保障。

关键词：生成式人工智能；刑事风险；分级合规治理

中图分类号：D9文献标识码：A文章编号：1007-905X（2024）08-0047-12

一、问题的提出公司推出新的大模型Sora，把人工智能的“超人”领

随着深度学习、大数据、云计算等技术的飞速域从文本向视频延伸。人工智能技术出人意料地

发展，人工智能（ArtificialIntelligence）已经从传统快速推进，使人工智能发展失控带来的未知风险越

[2]

的规则驱动、知识驱动转变为数据驱动、学习驱动，来越大。人类很可能不再具有“智能”上的优势，反

实现了从感知、理解到生成、创造的巨大飞跃。生而处于被人工智能“欺骗”或“诱导”的劣势地位。

[3]

成式人工智能（GenerativeArtificialIntelligence）作正如马斯克所说，AI最后一定会全面超越人类。

为一种新兴的人工智能形式，能够自动生成文本、随着ChatGPT等生成式人工智能技术的不断迭

图像、声频等各种类型的输出内容，展现出强大的创代发展，其广泛应用将引发包括刑事责任风险在内

造性和适应性，并在教育、娱乐、医疗、商业等领域得的多种法律风险。在为其强大功能震撼之余，刑法

[4]

到广泛应用，逐步转变人类的工作和生活方式。以学者应与时俱进，时刻保持学术研究的敏锐性。

ChatGPT为例，它是OpenAI公司于2022年11月研当前，生成式人工智能及其法律风险也引起了刑法

发的一种基于大型语言模型的生成式人工智能，具学界的普遍关注，有学者聚焦于生成式人工智能风

[5-6]

有高效性、人性化、灵活性、可学习性等优势，受到险的划分，有学者关注生成式人工智能的刑