现代机器学习 课件 第13章 生成对抗网络.pptx

第13生成对抗网络;

13.1生成对抗网络简介;

GAN是一种结构化的概率模型,通过图像、音频和数据来学习复杂的高维分布。生成对抗网络由两个网络组成:一个是生成器(Generator,G),用于捕获数据分布并生成伪样本;另一个是判别器(Discriminator,D),用于预测输入数据是来自真实数据分布还是生成器生成的数据分布的概率。生成器G和判别器D分别作为博弈的两方,学习真实的数据分布,生成与真实数据一样的数据。;

利用梯度下降技术,由生成器和判别器进行最小最大博弈直到纳什均衡,此时生成器可以生成与真实数据相似的数据,而判别器不能区分真实数据与生成器生成的数据。为了更新生成器和判别器的梯度,判别器通过计算两个分布之间的差异所带来的损失来接收梯度信号。因此,生成对抗网络的三个主要设计和优化组件是:网络结构、目标(损失)函数和优化算法。当模型达到纳什均衡时,可以认为生成器捕捉到了真实数据分布。图13.1显示了2014—2018年生成对抗网络图像生成能力的进展情况。;;

13.2网络结构;

GAN的生成模型用来获取真实的数据分布,判别模型用来预测输入是来自真实数据的概率。GAN输入真实数据x和随机噪声向量z,同时训练G和D两个模型。GAN的网络结构如图13.2所示，G的目的是令D(G(z))足够大,最大化预测生成样本为真实数据的概率,尽可能