生成式人工智能虚假信息的刑事风险与法律应对研究.pdfVIP

第3卷第7期(总第20期)河北法律职业教育No.7

2025年7月HEBEIVOCATIONALEDUCATIONOFLAWJul.2025

生成式人工智能虚假信息的刑事风险与法律应对研究

马海铭

摘要:生成式人工智能技术,在推动社会发展的同时衍生出虚假信息泛滥的问题,其刑事风险集中表

现为:AI换脸诈骗、虚假金融信息诈骗等形式催生诈骗类犯罪;批量编造虚假新闻,扰乱社会秩序;伪

造名誉损害内容,侵犯人格权以及未经授权的数据训练与内容抄袭等形式造成的知识产权侵权。对此,需

从多维度构建应对策略:立法上细化AI诈骗构成要件、提高扰乱秩序类犯罪量刑幅度;执法中强化技术

监测与跨区域协作;司法层面简化名誉权案件诉讼程序、实行举证责任倒置;监管环节运用区块链等技术

建立知识产权溯源体系。

关键词:人工智能;虚假信息;刑事风险;法律保护

中图分类号:D924.3文献标识码:A文章编号:2097-3802(2025)07-0085-06

由生成式人工智能炮制出的虚假新闻、不实数据、伪造图像与视频等,在网络空间肆意传播。这些虚

假信息凭借着人工智能技术的伪装,具有极高的迷惑性,轻易便能误导公众认知。从金融市场因虚假财务

信息引发的股价剧烈波动,到社会舆论因不实新闻报道陷入混乱,再到个人因被AI生成的虚假谣言损害

名誉,生成式人工智能虚假信息已对经济秩序、社会稳定以及公民权益造成了全方位的冲击。在此背景

下,深入探究生成式人工智能虚假信息背后潜藏的刑事风险,既是规范新兴技术发展、填补法律空白的迫

切需求,更是维护社会公平正义、保障国家长治久安的必然选择。

一、生成式人工智能的原理与特点

从原理层面来看,生成式人工智能依托生成式预训练语言模型,即GPT模型展开运作。这一模型的

构建与应用的根基是数据。研发者需要收集海量的数据,如同为一座智能大厦奠定深厚的基石,通过大量

的数据“投喂”来掌握大规模数据池。这些数据涵盖了极为广泛的领域和多样的语言表达形式,为模型后

续的学习与进化提供丰富的素材。在拥有大规模数据池后,研发者会对数据进行精心的训练。这一训练过

程犹如对初出茅庐的学子进行全方位教育,通过不断调整和优化模型参数,使其逐渐适应不同类型数据的

特征和规律。同时借助持续的微调和强化手段,如同对学子进行针对性辅导和反复磨炼,让模型性能逐步

①

提升。

GPT模型主要采用Transformer神经网络模型。Transformer模型具备独特的序列数据处理能力,这使

作者简介:马海铭,新南威尔士大学法学院。