文生视频类人工智能的数据风险及其法律规制——以Sora为例.pdfVIP

2024年10月河南社会科学Oct.，2024

第32卷第10期HENANSOCIALSCIENCESVol.32No.10

文生视频类人工智能的数据风险

及其法律规制

——以Sora为例

逯达

（山东社会科学院法学研究所，山东济南250002）

摘要：Sora具有较强的视频生成能力，被OpenAI定位为“物理世界模拟器”，引领着文生视频类AI的

发展。数据是文生视频类AI的质料，在AI运行过程中可能存在安全风险，具体包括预训练数据来源合法性

风险，人工操纵标注的数据可能导致的意识形态等风险，抓取虚假数据或非法数据的风险等。而这些数据

风险可能衍生出国家与个人的数据安全风险、生成视频数据的著作权风险、深度伪造视频等虚假视频数据

传播风险以及意识形态渗透风险。建立健全多维法律规制体系成为文生视频类AI数据风险治理的关键所

在。我国应以科技向上向善、包容审慎等为原则，明确服务提供者等主体的数据安全法律义务，健全数据分

类分级保护制度，完善数据伦理规范，建立健全包容审慎数据监管、风险防控数据监管以及全过程风险预警

与应急处置监管相关机制，明确公众数据风险防范与救济路径。

关键词：文生视频类人工智能；Sora；数据风险；法律规制

中图分类号：D9文献标识码：A文章编号：1007-905X（2024）10-0077-11

Sora是美国OpenAI公司于2024年2月发布的产生一系列安全问题。为了平衡文生视频类AI发

人工智能文生视频大模型，其能够根据用户输入的展与风险防范的关系，抓住数据这一关键点显得尤

文字描述、图片等信息生成60秒的高清视频。Sora为重要。

基于生成模型开发而成，能够理解时间与空间等复一、Sora引领文生视频类AI的发展

[1]

杂关系并生成动态时空视频。Sora等文生视频类厘清Sora的技术逻辑与技术特性，能够为分析

人工智能（以下简称文生视频类AI）在给经济社会其数据风险及法律规制路径奠定技术基础。通过对

发展带来机遇及推动新质生产力发展的同时，易产现有涉及文生视频类AI的法律、法规等进行整理、

生数据安全风险、意识形态风险、版权侵权风险及分析，能够为后续法律规范的完善提供有益思路。

虚假信息传播风险等。其中，数据是文生视频类AI（一）Sora的技术逻辑

的“质料”，在数据来源、数据抓取、数据生成等方面Sora本质上是一种生成式AI，其技术逻辑主要

收稿日期：2024-07-15

基金项目：国家社会科学基金青年项目“新兴权利保障的地方立法创新研究”（19CFX026）

作者简介：逯达，男，法学博士，山东社会科学院法学研究所助理研究员，山东社会科学院与山东大学（威海）联合培养博士

后，主要从事民法、科技法、环境与资源保护法研究。

·77·

是采用数据训练学习、深度学习大模型、算法设计（二）Sora的技术特性

等深度训练学习方式。一是数据训练学习。Sora收Sora能够准确理解自然语言。OpenAI利用

集并处理大量的视频和图像等数据，这些数据将用GPT技术将简短的用户提示转换为详细内容，并将

于训练生成模型，并采用“原生规模训练”方式，这其传达到模型，这使Sora能够按照用户提示生成高

保证了视频生成的质量。二是深度学习大模型。质量的视频。基于对语言提示词的理解，Sora可以

Sora技术是建立在GPT和DALL·E等模型的基础之