生成式人工智能虚假信息风险与治理研究.pdf

学术探索

ＡｃａｄｅｍｉｃＥｘｐｌｏｒａｔｉｏｎ２０２４年第７期（总第２９６期）

生成式人工智能虚假信息风险与治理研究

张素华，李凯

（武汉大学法学院，湖北武汉４３００７２）

摘要：以ＣｈａｔＧＰＴ为代表的生成式人工智能改变了人机交互、信息获取、信息传播的方式，但大语言模型的“幻

视”问题也给虚假信息治理带来了新的挑战。训练数据瑕疵、算法黑箱以及大语言模型的“涌现能力”等因素致

使虚假信息风险呈扩大趋势，对个人权益保护、社会稳定以及国家安全构成了严重威胁。《生成式人工智能服务

管理暂行办法》明确要求不得利用生成式人工智能生成虚假信息，但在虚假信息的监管主体、监管职责及法律责

任等方面缺乏具体规定，不足以有效应对生成式人工智能下的虚假信息风险。为破解当下困局，应当秉持包容审

慎的治理态度，立足我国法治实践现状，从规范体系、治理主体、责任承担和制度环境等维度构建生成式人工智能

虚假信息的治理框架。

关键词：生成式人工智能；ＣｈａｔＧＰＴ；虚假信息风险；治理框架

中图分类号：ＤＦ０１文献标识码：Ａ文章编号：１００６－７２３Ｘ（２０２４）７－０１２９－１２

生成式人工智能（ＡＩＧＣ，ＡＩＧｅｎｅｒａｔｅｄＣｏｎ性，其在生成虚假信息上的弊端已经开始显现，

ｔｅｎｔ），是继专家生成内容（ＰｒｏｆｅｓｓｉｏｎａｌｌｙＧｅｎｅｒａｔｅｄ其所带来的虚假信息风险不容忽视。２０２３年７

Ｃｏｎｔｅｎｔ，ＰＧＣ）、用户生成内容（Ｕｓｅｒ－Ｇｅｎｅｒａｔｅｄ月１０日，国家网信办联合多部门发布了《生成

Ｃｏｎｔｅｎｔ，ＵＧＣ）之后一种新的内容生产方式，可以式人工智能服务管理暂行办法》（以下简称

通过从预先存在数据中的学习模式来生成新内《ＡＩＧＣ管理暂行办法》），成为当下规制ＣｈａｔＧ

①ＰＴ类生成式人工智能的纲领性文件。《ＡＩＧＣ

容（例如文本、图像和视频），也代表着内容自动

②

化生成的一类技术集合。ＣｈａｔＧＰＴ作为生成式管理暂行办法》从生成内容、训练数据来源、生

人工智能的一个典型应用，凭借其大数据、强算成式人工智能服务提供者责任等方面对虚假信

法和大算力，极大地推动了ＡＩＧＣ在文本、图像、息的治理作出了宣示性的规定，但缺少精细化

音视频、

３Ｄ交互、数据合成（ｓｙｎｔｈｅｔｉｃｄａｔａ）等内配套措施，且与《网络信息内容生态治理规定》

容场景的全覆盖以及跨模态生成。随着ＣｈａｔＧＰＴ（以下简称《信息内容治理规定》）、《互联网信

的火爆出圈，在人们对技术未来充满憧憬的同息服务算法推荐管理规定》（以下简称《算法推

时，“虚假信息”问题也接踵而至，因为ＣｈａｔＧＰＴ荐管理规定》）、《互联网信息服务深度合成管理

有时会生成“看起来合理但实际上是错误或不合规定》（以下简称《深度合成管理规定》）等文件

③存在内容上的重叠。因此，应当从ＣｈａｔＧＰＴ类

理的答案”。

由于ＣｈａｔＧＰＴ生成内容的虚假性和模糊生成式人工智能的底层架构和技术特征出发，

基金项目：国家社科基金一般项目（２１ＢＦＸ０１６）

作者简介：张素华（１９７６—），女，湖北宜昌人，武汉大学法学院教授，法学博士，主要从事民商法、人工智能法研究；

李凯（１９９６—），男，湖南益阳人，武汉大学法学院博士研究生，主要从事民商法、人工智能法研究。

①ＡｍｅｒｉｃａｎＣｏｎｇｒｅｓｓｉｏｎａｌＲｅｓｅａｒｃｈＳｅｒｖｉｃｅ（ＣＲＳ）：ＧｅｎｅｒａｔｉｖｅＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅａｎｄＤａｔａＰｒｉｖａｃｙ：ＡＰｒｉｍｅｒ［ＥＢ／ＯＬ］．（２０２３－０５－

２３）［２０２３－０９－２９］．ｈｔｔｐｓ：／／ｃｒｓｒｅｐｏｒｔｓ．ｃｏｎｇｒｅｓｓ．ｇｏｖ／ｐｒｏｄｕｃｔ／ｐｄｆ／Ｒ／Ｒ４７５６９．

②中国信息通信研究院，京东探索研究院．人工智能