《人工智能技术基础》课件 第9章 生成式人工智能模型.pptx

人工智能技术基础

第九章

生成式人工智能

生成式人工智能模型(AIGeneratedContent)

是基于统计学习算法和深度神经网络的人工智能模型，能够从数据中学习并生成新的、与原始数据类似或不同的数据。生成式人工智能模型的目标是通过生成数据来模仿人类创作的过程。AIGC

目前已经在许多领域得到了广泛的应用，如自然语言处理(NLP)、图像生成、音频合成、视频生成等。

本章重点阐述几种经典生成模型的工作原理与应用，包括VAE、GAN以及流模型，特别是目前AICG的主流模型——扩散模型与稳定扩散模型。

9生成式人工智能模型简介

9.1变分自编码器(VAE)

9.2生成对抗网络(GAN)

9.3流模型(Flow-basedModel)

9.4扩散模型(DiffusionModel)

9.5稳定扩散模型(StableDiffusionModel)

9.6本章小结

变分自编码器

变分自编码器VAE是一种对自编码网络改进的生成模型，其基本结构由编码器(Encoder)与译码器(Decoder)组成。

编码器将输入编码为低维数据，即将数据“压缩”或者转换为一种低维的编码特征，实现降维与压缩，建立一种高维形象数据与低维度抽象特征码的对应关系。译码器则是从特征码空间重构出等同于输入数据的形象数据，建立了一种低维度特征码与高维度形象数据的映射关系。由于采用了无监督的训练方式，这种结构也称为自编码器。

编码器-译码器基于训练数据所产生的特征码空间与训练数据样本——对应，没有训练的数据则无法从特征码空间生成。

9.1变分自编码器

高维形象数据高维形象数据

9.1.1原理概念

输入数据

输出数据

码空间

x

P(x)

样本空间

~N(0,1)

T₁

T2

T3

T4

Zn

Tn

an到n分布编码过程

生成数据

T₁

2

₃

4

n

n到n分布译码过程

P(x)=J₂P(z)P(|z)dz

9.1.1原理概念

变分自编码器(Variational

Autoencoder)不再像自编码器那样对训练数据——编码，而是利用神经网络训练出一组以均值和方差为输出参数的混合高斯模型，以该模型作为隐变量，译码器从混合高斯模型中采样重构出高维形象数据，由于高斯混合模型是一种连续分布，在添加扰动基础上将产生出相似于训练数据的新数据，从而实现了生成功能。

q(z|x)～N(μ(x),σ(x))

样本空间中的每个样本通过神经网络编码器产生一个对应的高斯分布，如A,B,C,用均值与方差表示，从而整体形成混合高斯模型。译码器工作时，则是从混合高斯模型分布中进行采样，进而生成与样本相似但又不同的新数据。

9.1变分自编码器

bA

BC

21

22

23

24

译码器

编码器

a

A

采样

9.1.2训练方法

VAE的训练方式属于没有标签的无监督训练方式，即输入数据和输出数据均是一样的样本，旨在通过自编码的方式，训练出隐空间编码，进行生成工作时，直接从隐空间编码中采样即可。

9.1变分自编码器

混合概率密度函数：

损失函数：

loss₂=|x-f(z)|²

由VAE模型生成的人脸图像

样本空间

T1

T2

T₃

P()=J₂P(=)P(引=)d₂

∽N(0,1)

21

q(=|x)～N(μ(x),o(x))

23

24

zn

a▲bA

译码器

编码器

采样

P(x)

生成对抗网络

生成对抗网络(GenerativeAdversarialNetworks,GAN)是一种生成式模型，

目的是生成与源数据分布类似的数据，简单来说就是“照猫画虎”的过程。生成对抗网络由一个生成器与一个判别器组成。生成器学习从潜在空间到感兴趣数据分布的映射，判别器则将生成器生成的候选者与真实数据分布区分开来，

而生成器则要尽可能地欺骗判别器。生成器和判别器相互对抗、不断调整参数，最终目的是使判别器无法判断生成器输出结果的真假。

9.2生成对抗网络

假设需要生成器能够生成一个老虎的图像，那么训练集将设定为一系列的老虎图像。开始时生成器从噪声中也许能生成出一只狗的图像，判别器给出的狗与虎的相似度很小，进而反馈回生成器以调整生成器的参数，若干次循环后，生成器从生成狗的图像逐渐能够生成出一只猫之后，判别器无法从颜色外形等简单特征中分辨出猫和虎的区别，则对自身进行参数修正，以学习虎的纹理细节以判断猫和虎的区别，进而在两者参数不断更新且相互博弈对抗中使生成器逐渐生成出与训练集相似的图