深度学习第5章 生成对抗网络.pptxVIP

第五章生成对抗网络;;生成方法通过观测数据学习样本的联合概率分布P(X,Y)，即生成模型，能够生成符合样本分布的新数据。

生成模型在无监督深度学习方面占据主要位置，可以用于在没有目标类标签信息的情况下捕捉观测到或可见数据的高阶相关性。

判别方法由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测的模型，即判别模型。

判别方法关心的是对给定的输入X，应该预测什么样的输出Y。

;有监督学习经常比无监督学习获得更好的模型。

但是有监督学习需要大量的标注数据，从长远看无监督学习更有发展前景。

;但是支持无监督学习的生成式模型遇到两大困难：

首先是人们需要大量的先验知识去对真实世界进行建模，而建模的好坏直接影响着我们的生成模型的表现。

真实世界的数据往往很复杂，人们要用来拟合模型的计算量往往非常庞大，甚至难以承受。

;2014年，生成对抗网络（GenerativeAdversarialNetworks，GAN）由当时还在蒙特利尔读博士的IanGoodfellow（导师Bengio）提出。

2017年入选“MIT评论35岁以下创新人物”。

2016年，GAN热潮席卷AI领域顶级会议，从ICLR到NIPS，大量高质量论文被发表和探讨。

;;零和博弈;零和博弈;零和博弈;GAN的基本结构;GAN的基本结构;GAN的基本结构;GAN的目标函数;GAN的目标函数;GAN的训练;GAN的训练;GAN的训练;GAN的训练;20;21;;限定条件优化;CGAN：ConditionalGenerativeAdversarialNets

InfoGAN：?InterpretableRepresentationLearningbyInformationMaximizingGenerativeAdversarialNets

ImprovedTechniquesforTrainingGANs

GP-GAN:TowardsRealisticHigh-ResolutionImageBlending

;CGAN;CGAN;CGAN;CGAN;InfoGAN;InfoGAN;InfoGAN;InfoGAN;InfoGAN;;迭代式生成优化;LAPGAN：DeepGenerativeImageModelsusingaLaplacianPyramidofAdversarialNetworks

StackGAN:TexttoPhoto-realisticImageSynthesiswithStackedGenerativeAdversarialNetworks

PPGN:“PlugPlayGenerativeNetworks:ConditionalIterativeGenerationofImagesinLatentSpace;LAPGAN;LAPGAN;LAPGAN;LAPGAN;Coarse-to-fine的视觉效果

;文本到图像生成

解决文本到图像生成分辨率不高的问题，采用与LAPGAN相似的思路，采用coarse-to-fine的思路，构建两个GAN

第一个GAN用于根据文本描述生成一张低分辨率的图像。

第二个GAN将低???辨率图像和文本作为输入，修正之前生成的图像并添加细节纹理，生成高分辨率图像。

;StackGAN;?;?;?;?;StackGAN;;DCGAN:UnsupervisedRepresentationLearningwithDeepConvolutionalGenerativeAdversarialNetworks

Pix2Pix:Image-to-ImageTranslationwithConditionalAdversarialNetworks

PPGN:“PlugPlayGenerativeNetworks:ConditionalIterativeGenerationofImagesinLatentSpace

;DCGAN将CNN和GAN结合在一起，将CNN作为GAN中的生成器和判别器。

需要注意的是，DCGAN并非在生成器和判别器中使用通用的CNN，而是对CNN进行了部分修改：

首先，取消了CNN中的所有池化层，在生成器中使用反卷积进行上采样，在判别器中使用加入步长（Stride）的卷积代替池化层。

其次，除了生成器的输出层和判别器的输入层，在网络的其它层上都进行了批归一化。

再次，移除完全连接的隐藏层，以实现更深层次的体系结构。

最后，在生成器中，除了输出层使用Tanh激活函数之外，其它层使用ReLU激活函数，判别器的所有层均使用LeakyReLU激活函数。