机器学习 第2版 深度学习 生成对抗网络GAN.ppt

GAN – 二次元人物頭像鍊成 20,000 rounds GAN – 二次元人物頭像鍊成 50,000 rounds 代码和案例实践 图片生成 图片风格转换 * * /s/JaDWG4Ms490X6i6cI2crOQ? * /s/JaDWG4Ms490X6i6cI2crOQ? * Binary Classifier * GAN损失函数 这个Loss其实就是交叉熵。对于判别器D，它的任务是最小化 -L(G,D) ，即 如果采用零和博弈，生成器G的目标是最小化L(G,D)，而实际操作发现零和博弈训练效果并不好，G的目标一般采用最小化 一般来说，更新D是，G是固定的；更新G时，D是固定的。 或 优化函数的目标函数 D(x)表示判别器认为x是真实样本的概率，而1-D(G(z))则是判别器认为合成样本为假的概率。训练GAN的时候，判别器希望目标函数最大化，也就是使判别器判断真实样本为“真”，判断合成样本为“假”的概率最大化；与之相反，生成器希望该目标函数最小化，也就是降低判别器对数据来源判断正确的概率。 在训练的过程中固定一方，更新另一方的网络权重，交替迭代，在这个过程中，双方都极力优化自己的网络，从而形成竞争对抗，直到双方达到一个动态的平衡（纳什均衡），此时生成模型 G 恢复了训练数据的分布（造出了和真实数据一模一样的样本），判别模型再也判别不出来结果，准确率为 50%，约等于乱猜。 生成式对抗网络--GAN的训练方法 生成模型：要最小化判别模型D的判别准确率。 判别模型：要尽量最大化自己的判别准确率 黑色大点虚线P(X)是真实的数据分布 A.Pg和Pdata 相似，D是部分精确的分类器 绿线G（z）是通过生成模型产生的数据分布（输入是均匀分布变量z，输出是绿色的线） B.D被训练以区分样本和数据，并收敛到 蓝色的小点虚线D（X）代表判别函数 C.在更新g之后，d的梯度引导g(Z)流向更有可能被归类为数据的区域。 较低的水平线是z采样的区域，在这种情况下，上面的水平线是X域的一部分。向上箭头显示映射x=g(Z)如何将非均匀分布的pg强加于转换后的样本上。g在高密度区域收缩，在pg低密度区域扩展。 D.产生的绿色分布和真实数据分布已经完全重合。这时，判别函数对所有的数据（无论真实的还是生成的数据），输出都是一样的值，已经不能正确进行分类。G成功学习到了数据分布，这样就达到了GAN的训练和学习目的。Pg = Pdata ，判别器无法区分这两个分布，此时D(X)=1/2 生成式对抗网络--训练方法 首先，如果固定G，那么D的最优解就是一个贝叶斯分类器。将这个最优解形式带入，可以得到关于G的优化函数。简单的计算可以证明，当产生的数据分布与真实数据分布完全一致时，这个优化函数达到全局最小值。Pg=Pdata 生成模型G隐式地定义了一个概率分布Pg，我们希望Pg 收敛到数据真实分布Pdata。论文证明了这个极小化极大博弈当且仅当Pg = Pdata时存在最优解，即达到纳什均衡，此时生成模型G恢复了训练数据的分布，判别模型D的准确率等于50%。 GAN是存在全局最优解的 全局最优解和收敛性 生成式对抗网络--全局最优解和收敛性 如果G和D的学习能力足够强，两个模型可以收敛。 但是GAN模型的收敛性和均衡点存在性需要新的理论突破，模型结构和训练稳定性需要进一步提高。 GAN的收敛是很困难的。第一，就是梯度消失的问题，当优化的时候，对于公式里生成器、判别器的损失函数会存在梯度消失的问题，那么我们需要设计一些更好的损失函数，使得梯度消失问题得到解决。第二个就是模式发现问题，也就是说我们的生成器可能生成同样的数据而不是多样的数据。 GAN的收敛性 GAN缺点（1） 在原始GAN的（近似）最优判别器下，第一种生成器loss面临梯度消失问题，第二种生成器loss面临梯度不稳定、对多样性与准确性惩罚不平衡导致缺乏多样性的问题。 原始GAN问题的根源可以归结为两点，一是等价优化的距离衡量（JS散度、KL散度）不合理，二是生成器随机初始化后的生成分布很难与真实分布有不可忽略的重叠。 衡量两个分部的相似程度 衡量两个分布的相似程度 GAN缺点（2） 当生成器和鉴别器的样本分布不重叠时，JS 散度的梯度始终为 0，从而导致此时 GAN 的训练出现梯度消失现象。 GAN模型collapse 应用：DCGAN 2015年的DCGAN把类似的理念应用到人脸图像上。通过对编码（输入的随机向量）进行代数运算，控制生成人脸图像的属性。 生成式对抗网络--衍生模型 DCGAN 把有监督学习的CNN与无监督学习的GAN整合到一起提出了Dee