生成式人工智能虚假有害信息...以ChatGPT的应用为引_朱嘉珺.pdfVIP

生成式人工智能虚假有害信息规制的挑战与应对

——以ChatGPT的应用为引

朱嘉珺*

摘 要：以ChatGPT为代表的生成式人工智能引发的虚假有害信息风险极为复杂，涵盖“积极生

成型”“消极生成型”和“人为操纵型”等多种情形。依靠其独特复杂的内外部因素，生成式人工智

能打破了学术界与实务界迄今关于搜索引擎算法“不能、不想、不愿”生成虚假有害信息的所有立场

分歧与理论认知，更是在法律定位、归责认定上对现行网络虚假有害信息相关法律规制发起了挑战。

有鉴于生成式人工智能的类通用属性，对其规范应当超出一般算法的规制框架，以人工智能基础性立

法为基底建构特定的算法诽谤规制路径。一要坚持层级治理的规制逻辑，建立多元主体协同共管机

制、设立涵盖多责任主体的内容监管机制、创建具有高拓展性的风险监测机制；二要在“刺破人工智

能面纱”原则的基础上，探索生成式人工智能为责任主体的新型诽谤救济规则，包括探寻以“AI价值

链”为导向的归责方法，以及适用于过渡期的暂代型诽谤救济模式。

关键词：生成式人工智能；ChatGPT；虚假有害信息；诽谤；AI价值链

自2022年年末人工智能研究公司OpenAI向全世界开放ChatGPT的自由访问权后，以其流畅的问题

应对和强大的文本处理功能，ChatGPT迅速由一款人工智能聊天工具升级成了一场波及全球的文化现

象。狂欢背后却是深层次的隐忧。长期研究网络虚假有害信息的互联网公司NewsGuard联合CEO坦言：

〔1〕

“ChatGPT将成为互联网上最强有力的散播虚假信息的工具。”而被称为“AI教父”的图灵奖获得者

辛顿更是发出了警告：“生成式人工智能正在制造大量虚假的文本、图片和影像……若没有及时准备好

〔2〕

相关法规和有效控制手段，人类在未来将对AI彻底失去控制。”上述言论并非危言耸听，支持ChatGPT

的关键技术“生成式预训练转换器”（GPT）发展到了第四代，其智能化程度已被多位科学家拉到了警

〔3〕

戒线级别。与此同时，生成式AI家族的另一代表模型“生成式对抗网络”（GAN）所支持的智能工具

Deepfake、Stable Diffusion等也纷纷跃然台前，尤其是Midjourney V5的出现，更是被媒体称为“可与GPT-4

共同织就生成式AI新纪元”的具有划时代影响的AI绘图工具。令人警醒的是，Midjourney迄今为止最大

* 苏州大学王健法学院副教授，法律博士。本文系国家法治与法学理论研究课题“网络侵害法律规制研究”（项目编号：

18SFB5006）、江苏省社会科学基金课题“危害物联网安全场域的新型犯罪问题研究”（项目编号：19FXD006）、江苏高校哲学

社会科学研究项目“反校园欺凌法律机制研究”（项目编号：2018SJA1295）的阶段性研究成果。

〔1〕SeeDisinformationResearchersRaiseAlarmsaboutA.I.Chatbots

Tiffany Hsu Stuart A﹒ Thompson, , The New York Times, Feb﹒ 13,

2023, https://www﹒nytimes﹒com/2023/02/08/technology/ai-chatbots-disinformation﹒html (accessed May 15, 2023)﹒

〔2〕SeeTheGodfatherofAI’QuitsGoogleandWarnsofDangerAhead

Cade Metz, , The New York Times, May 2, 2023, https://www﹒nytimes﹒

com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton﹒html (accessed