【观安信息】雪鹏-生成式AI合成内容鉴别.docxVIP

生成式AI合成内容鉴别安全实践演讲人：李雪鹏

生成式AI合成内容鉴别

安全实践

演讲人：李雪鹏

单位名称：观安信息成式AI现状STATE

01

02

03

04

生成式AI现状STATE

法律法规政策POLICY

风险QUESTION

我们的行动ACTION

01生成式AI现状/生成式AI与传统AI对比与传统A

01生成式AI现状/生成式AI与传统AI对比

与传统AI的不同

生成式AI（GenerativeAI）是一种利用机器学习和人工智能技术生成新内容的系统。与传统的AI不同，生成式AI不仅能分析和理解现有数据，还能基于这些数据生成新的、未曾存在的内容。这些内容可以是文本、图像、音频、视频等各种形式。生成式AI的核心在于其能够创造性地生成具有一定创意和实用价值的新数据，从而拓宽了人工智能的应用领域。

现在所用技术

传统生成对抗网络（GANs）：由生成器和判别器两个对抗性网络组成，通过两者的对抗训练生成越来越逼真的数据

变分自编码器（VAEs）：过将数据编码为潜在变量，再从潜在变量生成新数据

自回归模型：Transformer、GPT等，通过逐步预测下一个数据点，自回归模型能够生成连贯的序列数据

扩散模型：过模拟数据生成过程中的噪声扩散和逆扩散过程，

生成高质量的新数据

图片来自OpenAI、文心一格、Runway、StabilityAI、