_论生成式人工智能的法律风险与治理路径.pdfVIP

第

26

卷第

3

期北

京

理

工

大

学

学

报（社

会

科

学

版）Vol.

26

No.

3

2024

年

5

月JOURNAL

OF

BEIJING

INSTITUTE

OF

TECHNOLOGY

(SOCIAL

SCIENCES

EDITION)May.2024

DOI:

10.15918/j.jbitss1009-3370.2023.1621

论生成式人工智能的法律风险与治理路径

宋华健

（华东政法大学经济法学院,上海

200042）

摘要

：

以ChatGPT为代表的生成式人工智能在优化产业结构促进经济发展的同时也带来新的法律风险。语言模

型训练中的风险主要包括侵害个人信息与作品著作权风险，内容生成过程中的风险则体现为人工智能“幻觉”导

致的错误信息风险、算法偏见风险、“涌现”导致的算法失控风险以及人机互动中的算法滥用风险。《生成式人

工智能服务管理暂行办法》提供基本的治理框架，但部分条款设置与具体治理方式上存在不足。生成式人工智能

的性能取决于训练数据集的规模与质量，模型训练中的数据治理需要尊重其技术逻辑，实践中应拓展公共数据中

著作权数据与个人数据的合理使用边界。内容治理可以借鉴“宪法人工智能”的基本理念，构建动态的内容反馈

评估机制。

关键词：生成式人工智能；风险治理；合理使用；宪法人工智能

中图分类号:DF37；DF523.9文献标志码:A文章编号:1009-3370(2024)03–0134–10

“强大人工智能崛起将是人类有史以来最好或最坏的事情，我们还无法预知是哪一种”。在2017年全

球移动互联网大会（Global

Mobile

Internet

Conference，GMIC）上，霍金（Hawking）在视频演讲中表达了

对人工智能快速发展所产生的忧虑。2021年，ChatGPT-3作为一种大型语言计算模型开始获得大量关

注。相较于现有人工智能，ChatGPT-3在参数规模、建模能力以及多任务语言协同处理方面都展现出更

[1]

为优异的性能，因此被美国麻省理工学院的科技评论杂志评选为年度十大突破技术。在具体应用当

中，ChatGPT可以从大数量级的资料中快速提取信息从而简化机械或重复性的文本生成工作，对社会生

产力的提升有着潜在的积极影响。因其展现出的无与伦比的应用潜力，基辛格（Kissinger）等人认为

[2]

“ChatGPT等生成式人工智能发展预示着一场新的智力革命”。

智能化技术在优化产业结构促进经济发展的同时也给普通大众带来隐私保护、数据控制、知识产权

以及道德伦理等新类型的风险。与侧重分析与判断的决策式人工智能不同，以ChatGPT为代表的生成式

人工智能本质上是通过数字内容拆解、大语言模型训练来生成多样化的新内容。其中模型训练中针对著

作权内容的使用就存在争议。乔姆斯基（Chomsky）言辞激烈地指责ChatGPT从海量数据中分析提炼规

律并按照底层规则将数据串联在一起形成文章内容的方式是一种“高科技剽窃”。除此之外，大语言模型

的迭代演化也充满不确定性。OpenAI发布的GPT技术报告就显示更为复杂的语言模型引入可以提升

ChatGPT的能力，但同时也会带来不可预见的连锁反应与后果。出于对生成式人工智能发展过程中不可

控的担忧，生命未来研究所向全社会发出“暂停大型人工智能研究”的呼吁，该呼吁获得许多知名科学家

与相关从业者支持。在这份公开信中一个凝聚着多方共识的观点是监管部门应大力加快生成式人工智能

治理系统的发展，完善新发展模式下生成式人工智能的监管框架[3]。中国网信办等七部委在2023年7月

13日联合发布全球首个针对生成式人工智能的法规《生成式