Sora等生成式人工智能对诈骗犯罪司法认定的影响与应对.pdf

２０２４３

青少年犯罪问题年第期

Ｓｏｒａ等生成式人工智能对诈骗犯罪司法认定的

影响与应对



刘水灵董文凯

【内容摘要】文生视频大模型Ｓｏｒａ是目前生成式人工智能中最为先进的代表性应用。在为人类社

Ｓｏｒａ

会带来福祉及革命性变化的同时，等生成式人工智能技术也有存在可能被滥用于进行“深度伪造”

的潜在风险。在刑法层面，“深度伪造”等技术风险使得“眼见耳闻”不再为实，主要可能影响到诈骗类犯

Ｓｏｒａ

罪的司法认定与刑事归责。等生成式人工智能现阶段仍属于弱人工智能，本质上属于人类使用的

Ｓｏｒａ

工具，不具有刑事责任主体资格。在未来的迭代版本中，我们不能排除等生成式人工智能产生自主

意识进而成为强人工智能的可能性。在Ｓｏｒａ等生成式人工智能的介入下，司法机关将面临前所未有的

Ｓｏｒａ

证据认定难题。等生成式人工智能技术风险的协同治理必须由国家、社会和企业等多方主体共同

参与，在技术研发、推广应用等多环节建立健全监督评估机制，并且由行政法、刑法等多个部门法共同

规制。

Ｓｏｒａ

【关键词】生成式人工智能深度伪造诈骗类犯罪应对措施

目前，生成式人工智能（ＧｅｎｅｒａｔｉｖｅＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ，ＧＡＩ）正处于井喷式发展的技术大爆发时期。

生成式人工智能是一种基于算法和数学模型生成物理信息的技术，具有自由或者半自由的学习框架，通

①

过模仿、学习和统计进而生成“类人化”的信息。相比于传统人工智能技术抽象化、迟缓化的发展特点，

生成式人工智能技术呈现出具象化、快速化发展的新特点。（美国顶级人工智能公司）发布的

ＯｐｅｎＡＩ

（生成式预训练转换器）方兴未艾，以（世界模拟器）为代表的下一代生成式人工智能技术又

ＣｈａｔＧＰＴＳｏｒａ

已横空出世。自年月日正式发布以来，已经完成数次迭代升级。通过名为“

２０２２１１３０ＣｈａｔＧＰＴｔｒａｎｓ

”的人工神经网络和大规模预训练技术，能够自主学习大量自然语言文本的结构和规律，

ｆｏｒｍｅｒＣｈａｔＧＰＴ

②

从而实现文本生成、代码生成、文本问答、论文写作、逻辑推理、情感分析、多语种翻译等功能。在此基础

上，于年月日正式发布人工智能文生视频大模型。相较而言，是基于文

ＯｐｅｎＡＩ２０２４２１５ＳｏｒａＣｈａｔＧＰＴ

字、图片形式的输入内容而生成文字、图片形式输出内容的生成式人工智能，而则是能够基于文字、

Ｓｏｒａ

图片形式的输入内容而生成视频、图片形式输出内容的生成式人工智能。鉴于Ｓｏｒａ生成的高清视频更

加具有逻辑性、连贯性和经验性，我们可以将Ｓｏｒａ视为ＣｈａｔＧＰＴ的迭代版本。基于预训练技术的多模态

预训练大模型应用前景极其广泛，目前