生成式人工智能虚假信息治理的策略探究.pdfVIP

2025年第4期科技文化与传播

生成式人工智能虚假信息治理的策略探究

郭佳楠1，2 阮氏福来1

1.亚洲理工学院发展与可持续性学院，泰国，空銮，12120；2.中国人民大学数字人文研究中心，北京，100872

摘要：[研究目的]生成式人工智能（GAI）的发展极大地提升了信息生产效率，但同时也

带来了虚假信息泛滥的风险，影响社会信任、市场公平、金融安全乃至国家治理。面对这一

挑战，加强虚假信息治理的策略研究具有重要的现实意义和长远价值。[研究方法]采用文

献分析法，揭示生成式人工智能虚假信息的潜在风险；以此为切入点，深入剖析生成式人工

智能虚假信息产生潜在风险的逻辑成因。[研究结论]为应对生成式人工智能虚假信息泛滥

的风险和治理挑战，应当从完善虚假信息治理的规范体系、厘清虚假信息治理的主体责任、

优化虚假信息治理的制度环境入手，构建生成式人工智能虚假信息的治理框架，从而为清朗

网络空间建设、人工智能技术健康发展和社会稳定提供重要的科学依据和政策参考。

关键词：生成式人工智能技术；虚假信息；监管；责任划定；信息筛选机制

中图分类号：DF01 文献标识码：A DOI：10.19881/ki.1006-3676.2025.04.09

随着生成式人工智能（GenerativeArtificialIntelligence，GAI）技术的迅速发展，其在文本、

图像、音频和视频生成方面的能力日益强大。这类技术的广泛应用不仅为教育、医疗、媒体、娱

乐等领域带来了显著的创新与变革，同时也引发了潜在的社会治理挑战。其中，它被滥用于制造

和传播虚假信息（falseinformation），已成为全球范围内备受关注的热点问题[1]。2024年7月

18日，党的二十届三中全会通过《中共中央关于进一步全面深化改革推进中国式现代化的决定》，

[2]

明确提出要完善生成式人工智能发展和管理机制。因此，保障生成式人工智能生成内容的真实性，

探索构建虚假信息生产传播风险防范机制，对于当前引导人工智能社会良性健康发展十分必要且

具有重大意义。

当前，生成式人工智能生成虚假有害信息的风险已经受到学界关注。面对这些风险与挑战，

诸如安全评估、算法备案以及审计等措施，通常通过人工智能模型投入使用前的审查和应用后的

监管来发挥作用[3]。从应对虚假信息内容风险的角度看，徐伟认为生成式人工智能服务提供者对

内容生成的控制能力，已不同于以往的网络服务提供者，不能仅依据“风险控制义务”，要求生

基金项目：

2021年度国家社科基金高校思政课研究专项“法治教育融入高校思政课流程优化研究”

（21VSZ031）；河南省人文社会科学资助项目“新时代中国共产党人斗争精神的生成逻辑、

科学内涵与弘扬路径研究”（2024-ZZJH-229）。

作者简介：

郭佳楠，博士，研究方向为思想政治教育。阮氏福来（Thi

Phuoc

Lai

Nguyen）,博士，

教授，博士生导师，研究方向为公共政策。

67

2025.4

成式人工智能服务提供者对其生成内容具有一般化的审惧、焦虑等情绪会促使个体快速分享，而不去验证真伪。

查义务[4]。针对虚假信息的传播风险，周妍与沈天健例如，生成式人工智