神经网络结构：生成式对抗网络（GAN）

 　　生成对抗网络（GAN），是深度学习模型之一，2014年lan Goodfellow的开篇之做Generative Adversarial Network，GAN是一种无监督学习方法，它巧妙地利用“对抗”的思想来学习生成式模型，一旦训练完成后能够生成全新的数据样本。DCGAN将GAN的概念扩展到卷积神经网络中，能够生成质量较高的图片样本

GAN概述

　　GAN包括两个模型，一个是生成模型 G（Generator），一个是判别模型 D（Discriminator）。他们分别的功能是：

• G负责生成图片，他接收一个随机的噪声z，经过该噪声生成图片，将生成的图片记为G(z)
• D负责判别一张图片是否是“真实的”。它的输入是$x$，$x$表明一张图片，输出D(x)表示x为真实图片的几率，若是为1，表明是真实图片的几率为100%，而输出为0，表明不多是真实的图片（真实实例来源于数据集，伪造实例来源于生成模型）

　　在训练过程当中，生成模型G的目标是尽可能生成看起来真的和原始数据类似的图片去欺骗判别模型D。而判别模型D的目标是尽可能把生成模型G生成的图片和真实的图片区分开来。这样，生成器试图欺骗判别器，判别器则努力不被生成器欺骗。两个模型通过交替优化训练，互相提高，G和D构成了一个动态的“博弈”，这是GAN的基本思想。

　　最后博弈的结果是什么？在最理想的状态下，G能够生成足以“以假乱真”的图片G(z)。对于D来讲，它难以断定G生成的图片到底是不是真实的，所以D(G(z))=0.5。此时获得了一个生成式的模型G，它能够用来生成图片。

图1-1   GAN网络总体示意图

　　如上图所示，咱们有两个网络，生成网络G（Generayor）和判别网络D（Discriminator）。生成网络接收一个（符合简单分布如高斯分布或者均匀分布的）随机噪声输入，经过这个噪声输出图片，记作G(z)。判别网络的输入是x，x表明一张图片，输出D(x)表明x为真实图片的几率。

GAN模型优化训练

目的：将一个随机高斯噪声$z$经过一个生成网络G获得一个和真实数据分布$p_{data}(x)$差很少的生成数据分布$p_G(x;\theta )$，其中$\theta $是网络参数，咱们但愿找到$\theta $使得$p_G(x;\theta )$和$p_{data}(x)$尽量的接近。

咱们站在判别网络的角度想问题，首先判别器要能识别真实数据，一样也能识别出生成数据，在数学式子上的表达为D(x)=1和D(G(z))=0。咱们经过这两个式子，分别来构造[正类](判别出x属于真实数据)和[负类](判别出G(z)属于生成数据)的对数损失函数。

生成网络G的损失函数为$\log (1 - D(G(z)))$或者$ - \log D(G(z))$。

判别网络D的损失函数为$ - (\log D(x) + \log (1 - D(G(z))))$。

　　咱们从式子中解释对抗，损失函数的图像是一个相似于y=log(x)函数图形，x<0时,y>0,x=1时,y=0，生成网络和判别网络对抗（训练）的目的是使得各自的损失函数最小，，生成网络G的训练但愿$D(G(z))$趋近于1，也就是正类，这样生成网络G的损失函数$\log (1 - D(G(z)))$就会最小。而判别网络的训练就是一个2分类，目的是让真实数据x的判别几率D趋近于1，而生成数据G(z)的判别几率$D(G(z))$趋近于0，这是负类。

当判别网络遇到真实数据时：${E_{x \sim {p_{data}}(x)}}[\log D(x)]$，这个指望要取最大，只有当D(x)=1的时候，也就是判别网络判别出真实数据是真的。

当判别网络遇到生成数据时：${E_{z \sim Pz(z)}}[\log (1 - D(G(z)))]$，由于0<几率<1，且x<1的对数为负，这个数学指望要想取最大值，则须要令D(G(z))=0，D(G(z))=0是判别器发现了生成数据G(z)是假的，

　　结合以上两个概念，判别网络最大化目标函数为：$${E_{x \sim {p_{data}}(x)}}[\log D(x)] + {E_{z \sim Pz(z)}}[\log (1 - D(G(z)))]$$

　　以上的式子，是在给定生成器G，求最优的判别器$D_G^*$，即判别网络的最大值，咱们定义一个价值函数，以下$$V(G,D) = {E_{x \sim {p_{data}}(x)}}[\log D(x)] + {E_{z \sim Pz(z)}}[\log (1 - D(G(z)))]$$

　　而后咱们将最优化式子表述为：$D_G^* = \arg {\max _D}V(G,D)$

　　如今剧情大反转，对于判别网络D而言，但愿目标函数(判别公式$V(D,G)$)最大化，但对于生成网络G，但愿目标函数（判别公式$V(D,G)$）最小化，即你判别网络判别不出我是真数据仍是生成数据。有趣的事情来了，那究竟是但愿这个目标函数最大化好呢，仍是最小化好呢？来打一架吧。整个训练的过程是一个迭代的过程，其实

　　当咱们求得最优的$D_G^*$即$D = D_G^*$，咱们反过来把$D = D_G^*$代入上面的式子，来求最优(最小)的G，即$G_D^*$。整个训练优化过程就是一个循环迭代过程。在原论文中lan J.Goodfellow更喜欢求解最优化价值函数的G和D以求解极大极小博弈：

$$\mathop {\min }\limits_G \mathop {\max }\limits_D V(D,G) = {E_{x \sim {p_{data}}(x)}}[\log D(x)] + {E_{z \sim Pz(z)}}[\log (1 - D(G(z)))]$$

式中：D是判别函数，x是真实数据，D(x)：判别真实数据的几率，D(G(z))：判别生成数据的几率

　　最后咱们将最优化问题表达为：$$G_D^* = \arg {\max _G}V(G,D_G^*)$$

　　其实极小极大博弈能够分开理解，即在给定G的状况下先最大化V(D,G)而取$D_G^*$，而后固定D，并最小化V(D,G)而获得$G_D^*$。其中给定G，最大化V(D,G)评估了真实数据和生成数据之间的差别或距离。

　　在这样的对抗过程当中，会有几个过程，原论文中的图以下：

黑色线表示真实数据的分布，绿色线表示生成数据的分布，蓝色线表示生成数据在判别器中的分布效果

 咱们对每一个图逐一进行分析

（a）、判别网络D还未通过训练，分类能力有限，有波动，可是真实数据x和生成数据G(z)仍是能够的

（b）、判别网络D训练的比较好，能够明显区分出生成数据G(z)。

（c）、绿色的线与黑色的线偏移了，蓝色线降低了，也就是判别生成数据的几率降低了。

　　因为绿色线的目标是提高提高几率，所以会往蓝色线高的方向引动。那么随着训练的持续，因为G网络的提高，生成网络G也反过来影响判别网络D的分布。在不断循环训练判别网络D的过程当中，判别网络的判别能力会趋于一个收敛值，从而达到最优。$$D_G^*(x) = \frac{{{p_{data}}(x)}}{{{p_{data}}(x) + {p_g}(x)}}$$

　　所以随着${{p_g}(x)}$趋近于${{p_{data}}(x)}$，$D_G^*(x)$会趋近于$\frac{1}{2}$，$\frac{1}{2}$的意思就是模棱两可，判别器已经分不清随是真实数据谁是生成数据，也就是图d。

 以上只是图文说明${{p_g}(x)}$最终会收敛于${{p_{data}}(x)}$，接下来咱们用算法具体推理。

GAN的算法推导

KL散度

　　在信息论中，咱们使用香农熵（Shannon entropy）来对整个几率分布中的不肯定性总量进行量化：$$H(x) = {E_{x \sim p}}[I(x)] =  - {E_{x \sim p}}[\log P(x)]$$

　　首先须要一点预备知识，若是咱们对于同一个随机变量x有两个单独的几率分布P(x)和Q(x)，咱们可使用KL散度（Kullback-Leibler divergence）也称为相对熵，这是统计中的一个概念，是衡量两种几率分布的类似程度，其越小，表示两种几率分布越接近。

对于离散数据的几率分布，定义以下：$${D_{KL}}(P\parallel Q) = \sum\limits_x {P(x)\log \frac{{P(x)}}{{Q(x)}}}  = {E_{x \sim P}}[\log \frac{{P({\rm{x}})}}{{Q(x)}}] = {E_{x \sim P}}[\log P(x) - \log Q(x)]$$

对于连续数据的几率分布，定义以下：$${D_{KL}}(P||Q) = \smallint _{ - \infty }^\infty p(x)log\frac{{p(x)}}{{q(x)}}dx$$

　　在离散变量的状况下，KL散度衡量的是：咱们使用一种编码，使得几率分布Q产生的消息长度最短。再用这种编码，发送包含由几率分布P产生的符号的消息时，所须要的额外信息量。

KL散度的性质：

一、最重要的是他是非负的。

二、当前仅当P和Q在离散型变量的状况下是相同分布，或者P和Q在连续型变量的状况下是几乎到处相等，那么KL散度为0。

三、由于 KL 散度是非负的而且衡量的是两个分布之间的差别，它常常 被用做分布之间的某种距离。然而，它并非真的距离由于它不是对称的：对于某些 P 和 Q，${D_{KL}}(P\parallel Q)$不等于${D_{KL}}(Q\parallel P)$。这种非对称性意味着选择${D_{KL}}(P\parallel Q)$仍是${D_{KL}}(Q\parallel P)$影响很大。

推导KL散度

　　在李宏毅的讲解中，KL散度能够从极大拟然估计中推导而出。若给定一个真实数据的分布${P_{data}}(x)$和生成数据的分布${P_G}(x;\theta )$，那么GAN但愿可以找到一组参数$\theta $使得真实数据的分布${P_{data}}(x)$和生成数据的分布${P_G}(x;\theta )$之间距离最短，也就是找到一组生成器参数使得生成器可以生成十分逼真的图片。

　　咱们从真实数据分布${P_{data}}(x)$里面取样m个点，${x^1},{x^2}, \cdots ,{x^m}$，根据给定的参数$\theta $咱们能够计算生成分布中第i个样本${x^i}$出现的几率${P_G}({x^i};\theta )$，那么生成这m个样本数据的拟然函数就是

$$L = \mathop \Pi \limits_{i = 1}^m {P_G}({x^i};\theta )$$

L为所有真实样本在生成分布中出现的几率。又由于若 P_G(x;θ) 分布和 P_data(x) 分布类似，那么真实数据极可能就会出如今 P_G(x;θ) 分布中，所以 m 个样本都出如今 P_G(x;θ) 分布中的几率就会十分大。

下面咱们能够最大化拟然函数L来求得离真实分布最近的生成分布（即找到最优的参数${\theta ^*}$）：

$${\theta ^*} = \mathop {\arg \max }\limits_\theta  \mathop \Pi \limits_{i = 1}^m {p_G}({x^i};\theta ) \Leftrightarrow \mathop {\arg \max }\limits_\theta  \log \mathop \Pi \limits_{i = 1}^m {P_G}({x^i};\theta )$$

$$ = \mathop {\arg \max }\limits_\theta  \sum\limits_{i = 1}^m {\log } {P_G}({x^i};\theta )\left\{ {{x^1},{x^2}, \cdots ,{x^m}} \right\}from{P_{data}}(x)$$

$$ \approx \mathop {\arg \max }\limits_\theta  {E_{x \sim {P_{data}}}}[\log {P_G}(x;\theta )]$$

$$ \Leftrightarrow \mathop {\arg \max }\limits_\theta  \int_x {{P_{data}}} (x)\log {P_G}(x;\theta )dx - \int_x {{P_{data}}} (x)\log {P_{data}}(x)dx$$

$$ = \mathop {\arg \max }\limits_\theta  \int_x {{P_{data}}} (x)\log \frac{{{P_G}(x;\theta )}}{{{P_{data}}(x)}}dx$$

$$ = \mathop {\arg \min }\limits_\theta  KL({P_{data}}(x)||{P_G}(x;\theta ))$$

分析推导过程：

一、咱们但愿获得最大化拟然函数L，简化求解过程，对拟然函数取对数，那么累乘就转换成累加，而且这一过程并不会改变最优结果。所以咱们能够将极大似然估计化为求令$\log {P_G}(x;\theta )$指望最大化的$\theta $

二、指望${E_{x \sim \;{P_{data}}}}[\log {P_G}(x;\theta )]$能够展开为$\int_x {{P_{data}}} (x)\log {P_G}(x;\theta )dx$在 x 上的积分形式。

三、由于该最优化过程是针对 θ 的，因此咱们多减去一项$\int_x {{P_{data}}} (x)\log {P_{data}}(x)dx$，不含 θ的积分并不影响优化效果，由于这至关因而一个参数。

四、合并这两个积分并构造相似KL散度的形式

上面的积分就是KL散度的积分形式，因此咱们想要求得生成分布和真实分布尽量靠近的参数θ，那么咱们只须要求令KL散度最小化的参数θ（最优的θ）。

这里在前面添加一个负号，将log里面的分数倒一下，就变成了KL散度（KL divergence）

可是${P_G}(x;\theta )$如何算出来呢？

$${P_G}(x) = \int_z {{P_{prior}}} (z){I_{[G(z) = x]}}dz$$

里面的I表示示性函数，也就是

$${I_{G(z) = x}} = \left\{ {\begin{array}{*{20}{l}}0&{G(z) \ne x}\\1&{G(z) = x}\end{array}} \right.$$

这样咱们其实根本没办法求出这个${P_G}(x)$出来，这就是生成模型的基本想法。

其余人推导存在的问题

Scott Rome对原论文的推导有这么一个观念，他认为原论文忽略了可逆条件，原论文的推理过程不够完美。咱们开看看到底哪里不完美：

在GAN原论文中，有一个思想和其余方法不一样，即生成器G不须要知足可逆条件，即G不可逆

scott Rome认为：在实践过程当中G就是不可逆的。

其余人：证实时使用积分换元公式，，而积分换元公式偏偏是基于G的可逆条件。

Scott认为证实只能基于如下等式成立：

$${E_{z \sim Pz(z)}}[\log (1 - D(G(z)))] = {E_{x \sim {P_G}(x)}}[\log (1 - D(x)]$$

该等式来源于测度论中的 Radon-Nikodym 定理，它展现在原论文的命题 1 中，而且表达为如下等式：

$$\int\limits_x {{p_{data}}(x)} \log D(x)dx + \int\limits_z {p(z)} \log (1 - D(G(z)))dz$$

$$ = \int\limits_x {{p_{data}}(x)} \log D(x)dx + {p_G}(x)\log (1 - D(x))dx$$

咱们这里使用了积分换元公式，但进行积分换元就必须计算 G^(-1)，而 G 的逆却并无假定为存在。而且在神经网络的实践中，它也并不存在。可能这个方法在机器学习和统计学文献中太常见了，所以不少人忽略了它。

　　知足Radon-Nikodym 定理条件以后。咱们利用积分换元变换一下以前定义的目标函数：

$$\mathop {\min }\limits_G \mathop {\max }\limits_D V(D,G) = {E_{x \sim {p_{data}}(x)}}[\log D(x)] + {E_{x \sim PG}}[\log (1 - D(x))]$$

　　而后经过下面的式子求最优的生成网络模型$${G^*} = \arg \mathop {\min }\limits_G \mathop {\max }\limits_D V(G,D)$$

最优判别器

　　首先咱们只考虑$\mathop {\max }\limits_D V(G,D)$，在给定G的状况下，求一个合适的D使得V(G,D)取得最大。这是一个简单的微积分。

$$\begin{array}{l}V = Ex \sim {P_{data}}[logD(X)] + Ex \sim {P_G}[log(1 - D(x))]\\ = \mathop \smallint \limits_x {P_{data}}(x)\log D(x)dx + \mathop \smallint \limits_x {p_G}(x)\log (1 - D(x))dx\\ = \int_x {[{P_{data}}(x)logD(X)] + {P_G}(x)log(1 - D(x))]dx} \end{array}$$

　　对于这个积分，要取其最大值，只要被积函数是最大的，就能求到最大值，咱们称之为最优的判别器${D^*}$$${D^*} = {P_{data}}(x)\log D(x) + {P_G}(x)\log (1 - D(x))$$

　　在真实数据给定和生成数据给定的前提下，${P_{data}}(x)$和${P_G}(x)$均可以看作是常数，咱们用a、b来表示他们，如此一来获得下面的式子：$$\begin{array}{*{20}{l}}{f(D) = a\log (D) + b\log (1 - D)}\\{\frac{{df(D)}}{{dD}} = a*\frac{1}{D} + b*\frac{1}{{{\rm{1}} - {\rm{D}}}}*( - 1) = 0}\\{a*\frac{1}{{{D^*}}} = b*\frac{1}{{1 - {D^*}}}}\\{ \Leftrightarrow a*(1 - {D^*}) = b*{D^{\rm{*}}}}\\{ \Leftrightarrow {D^{\rm{*}}}(x) = \frac{{{P_{data}}(x)}}{{{P_{data}}(x) + {P_G}(x)}}(while{P_{data}}(x) + {P_G}(x) \ne 0)}\end{array}$$

若是咱们继续对f(D)求二阶导，并把极值点${{D^{\rm{*}}}(x) = \frac{{{P_{data}}(x)}}{{{P_{data}}(x) + {P_G}(x)}}}$代入：

$$\frac{{df{{(D)}^2}}}{{{d^2}D}} =  - \frac{{{P_{data}}(x)}}{{{{(\frac{{{P_{data}}(x)}}{{{P_{data}}(x) + {P_{\rm{G}}}(x)}})}^2}}} - \frac{{{P_{\rm{G}}}(x)}}{{1 - {{(\frac{{{P_{data}}(x)}}{{{P_{data}}(x) + {P_{\rm{G}}}(x)}})}^2}}} < 0$$

　　其中0<a,b<1，由于一接到等于0、二阶导小于0，因此${\frac{{{P_{data}}(x)}}{{{P_{data}}(x) + {P_G}(x)}}}$为极大值，${{D^{\rm{*}}}(x)}$即为最优判别器。

　　这样咱们就求得了在真实数据给定和生成数据给定的前提下，可以使得V(D)取得最大值的D，其实该最优的 D 在实践中并非可计算的，但在数学上十分重要。咱们并不知道先验的 P_data(x)，因此咱们在训练中永远不会用到它。另外一方面，它的存在令咱们能够证实最优的 G 是存在的，而且在训练中咱们只须要逼近 D。

最优生成器

当前仅当${P_G}(x) = {P_{data}}(x)$时，意味着$$D_G^* = \frac{{{P_{data}}(x)}}{{{P_G}(x) + {P_{data}}(x)}} = \frac{1}{2}$$

判别器已经分不清谁是真实数据谁是生成数据了，咱们代入目标函数V(G,D)，即进入极大极小博弈仪式的第二步，求令$V(G,{D^*})$最小的生成器${G^*}$(最优生成器)。

原论文中的这必定理是「当且仅当」声明，因此咱们须要从两个方向证实。首先咱们先从反向逼近并证实V(G,D)的取值，而后再利用由反向得到的新知识从正向证实。设${P_G}(x) = {P_{data}}(x)$（反向指预先知道最优条件并作推导），咱们能够反向推出：

$$V(G,D_G^*) = \int_x {{P_{data}}(x)log\frac{1}{2}] + {P_G}(x)log(1 - \frac{1}{2})dx} $$

$$ \Leftrightarrow V(G,D_G^*) =  - \log 2\int\limits_x {{P_G}(x)} dx - \log 2\int\limits_x {{P_{data}}(x)} dx =  - 2\log 2 =  - \log 4$$

该值是全局最小值的候选，由于它只有在${P_G}(x) = {P_{data}}(x)$的时候才出现。咱们如今须要从正向证实这一个值经常为最小值，也就是同时知足「当」和「仅当」的条件。如今放弃${P_G}(x) = {P_{data}}(x)$的假设，对任意一个 G，咱们能够将上一步求出的最优判别器 D* 代入到V(G,D) 中，获得以下的结果$${\max V(G,D) = V(G,{D^*})}$$

$${ = {E_{x \sim {p_{data}}(x)}}[\log \frac{{{P_{data}}(x)}}{{{P_{data}}(x) + {P_G}(x)}}] + {E_{x \sim PG}}[\log \frac{{{P_G}(x)}}{{{P_{data}}(x) + {P_G}(x)}}]}$$

$${ = \int\limits_x {{P_{data}}(x)\log \frac{{\frac{1}{2}{P_{data}}(x)}}{{\frac{{{P_{data}}(x) + {P_G}(x)}}{2}}}dx}  + \int\limits_x {{P_G}(x)\log \frac{{\frac{1}{2}{P_G}(x)}}{{\frac{{{P_{data}}(x) + {P_G}(x)}}{2}}}dx} }$$

$$ = \int\limits_x {{P_{data}}(x)( - \log 2 + \log \frac{{{P_{data}}(x)}}{{\frac{{{P_{data}}(x) + {P_G}(x)}}{2}}})}  + {P_G}(x)( - \log 2 + \log \frac{{{P_G}(x)}}{{\frac{{{P_{data}}(x) + {P_G}(x)}}{2}}})dx$$

$$ =  - \log 2\int\limits_x {{P_{data}}(x) + } {P_G}(x)dx + \int\limits_x {{P_{data}}(x)(\log \frac{{{P_{data}}(x)}}{{\frac{{{P_{data}}(x) + {P_G}(x)}}{2}}})} dx + \int\limits_x {{P_G}(x)(\log \frac{{{P_G}(x)}}{{\frac{{{P_{data}}(x) + {P_G}(x)}}{2}}})dx} $$

由于几率密度的定义，${{P_{data}}(x)}$和${P_G}(x)$在它们积分域上的积分等于1，结合以前介绍的KL散度，推理出下式：

$${ =  - 2log2 + KL({P_{data}}(x)||\frac{{{P_{data}}(x) + {P_G}(x)}}{2}) + KL({P_G}(x)||\frac{{{P_{data}}(x) + {P_G}(x)}}{2})}$$

KL 散度是非负的，因此咱们立刻就能看出来 -log4 为V(G,D)的全局最小值。

　　之因此当 P_G(x)=P_data(x) 能够令价值函数最小化，是由于这时候两个分布的 JS 散度 [JSD(P_data(x) || P_G(x))] 等于零，看到这里咱们其实就已经推导出了为何这么衡量是有意义的，由于咱们取D使得V(G,D)取得min值，这个时候这个min值是由两个KL divergence构成的，至关于这个min的值就是衡量${P_G}(x)$与${P_{data}}(x)$的差别程度就可以取到G使得这两种分布的差别最小，这样天然就可以生成一个和原分布尽量接近得分布。

　　尚未结束，哇！证实好累呀，快结束了那就再坚持一下吧。

　　咱们还要进一步证实有且仅有一个G可以达到这个最小值。

咱们来介绍一下JS散度，

$$JSD(P\parallel Q) = \frac{1}{2}[D(P\parallel M) + D(Q\parallel M)]$$

$$M = \frac{1}{2}(P + Q)$$

假设存在两个分布 P 和 Q，且这两个分布的平均分布 M=(P+Q)/2，那么这两个分布之间的 JS 散度为 P 与 M 之间的 KL 散度加上 Q 与 M 之间的 KL 散度再除以 2。这里P为${P_{data}}(x)$，Q为${P_G}(x)$。

JS 散度的取值为 0 到 log2。若两个分布彻底没有交集，那么 JS 散度取最大值 log2；若两个分布彻底同样，那么 JS 散度取最小值 0。

所以V(G,D)能够根据JS散度的定义改写为：$$V(G,D) =  - \log 4 + 2*JSD({P_{data}}(x)|{P_G}(x))$$

这一散度其实就是Jenson-Shannon距离度量的平方。根据他的属性：当${P_G}(x) = {P_{data}}(x)$时，$JSD({P_{data}}(x)|{P_G}(x))$为0。综上所述，生成分布当前仅当等于真实数据分布式时，咱们能够取得最优生成器。

原论文还有额外的证实白表示：给定足够的训练数据和正确的环境，训练过程将收敛到最优 G，咱们并不详细讨论这一块。

GAN的优缺点

代码实现

　　咱们经过GitHub上的一个DCGAN项目介绍TensorFlow中的DCGAN实现。利用该代码主要去完成两件事情，一是生成MNIST手写数字，二是在本身的数据集上训练。

GAN生成MNIST图像

　　在实际训练中，使用梯度降低法，对D和G交替作优化便可，详细的步骤为：

1. 从已知的噪声分布$p_{z(z)}$中选出一些样本$\{z^{(1)}, z^{(2)},····, z^{(m)}\}$
2. 从训练数据中选出一样个数的真实图片$\{x^{(1)}, x^{(2)},····, x^{(m)}\}$
3. 设判别器D的参数为$\theta_d$，求出损失关于参数的梯度$\triangledown \frac{1}{m}\sum_{i=1}^m[ln(D(x^{(i)})+ln(1-D(G(z^{(i)}))))]$，对$\theta_d$更新时加上该梯度
4. 设生成器G的参数为$\theta_g$，求出损失关于参数的梯度$\triangledown \frac{1}{m}\sum_{i=1}^m[ln(1-D(G(z^{(i)}))))]$，对$\theta_g$更新时减去该梯度

　　在上面的步骤中，每对D的参数更新一次，便接着更新一次G的参数。有时还能够对D的参数更新k次后再更新一次G的参数，这些要根据训练的实际状况进行调整。另外，要注意的是，因为D是但愿损失越大越好，G是但愿损失越小越好，因此它们一个是加上梯度，一个是减去梯度。

　　当训练完成后，能够从$P_z(z)$随机取出一个噪声，通过G运算后能够生成符合P_{data}(x)的新样本。

DCGAN

　　若是要实现用DCGAN生成MNIST手写数字，直接运行

python main.py --dataset mnist --input_height=28 --output_height=28 --train

　　这一节主要讲使用DCGAN生成卡通人物头像。首先须要准备好图片数据并将它们裁剪到统一大小。咱们把数据放在项目根目录下的./data/anime文件夹下，

python main.py --input_height 96 --input_width 96 \
  --output_height 48 --output_width 48 \
  --dataset anime --crop -–train \
  --epoch 300 --input_fname_pattern "*.jpg"

　　下面分别是训练一、五、50个epoch以后产生的样本效果

  

使用已经训练好的模型进行测试的对应命令为：

python main.py --input_height 96 --input_width 96 --output_height 48 --output_width 48 --dataset anime --crop

 

参考资料

　　除了本章所讲的GAN和DCGAN外，还有研究者对原始GAN的损失函数作了改进，改进后的模型能够在某些数据集上得到更稳定的生成效果，相关的论文有：Wasserstein GAN、Least Squares GenerativeAdversarial Networks。

训练GAN的技巧清单

这篇博客如下内容我之后再完善

知乎GAN数学推导

机器之心：GAN推理与实现

Scott Rome GAN 推导：http://srome.github.io//An-Annotated-Proof-of-Generative-Adversarial-Networks-with-Implementation-Notes/

Goodfellow NIPS 2016 Tutorial：https://arxiv.org/abs/1701.00160

李弘毅MLDS17：http://speech.ee.ntu.edu.tw/~tlkagk/courses_MLDS17.html