GAN技术成熟期的关键突破：2015年前后生成对抗网络的演进与实战

1次阅读

共计 2404 个字符，预计需要花费 7 分钟才能阅读完成。

2015 年被称为 GAN 技术的分水岭，Ian Goodfellow 在 2014 年提出的原始框架经过三大关键改进实现质的飞跃：

训练稳定性突破 ：原始 GAN 常因梯度消失导致训练崩溃，2015 年提出的 DCGAN 首次使用卷积结构（Convolutional Layers）替代全连接层
评估指标标准化 ：Inception Score（IS）和 Fréchet Inception Distance（FID）的引入使生成质量可量化比较
理论保障完善 ：Wasserstein GAN（WGAN）通过 Earth-Mover 距离从数学上证明了训练收敛性

当时最显著的成果是：
– 人脸生成分辨率从 32×32（原始 GAN）提升到 128×128（DCGAN）
– 训练成功率从不足 30%（2014）提高到 75% 以上（2015 末）

用数学语言描述，GAN 是生成器 G（Generator）和判别器 D（Discriminator）的极小极大博弈：

\min_G \max_D V(D,G) = \mathbb{E}_{x\sim p_{data}}[\log D(x)] + \mathbb{E}_{z\sim p_z}[\log(1-D(G(z)))]

实际训练时采用交替优化：

固定 G 训练 D ：最大化区分真实样本 x 和生成样本 G(z)
固定 D 训练 G ：最小化 log(1-D(G(z)))（实践中改为最大化 log(D(G(z))) 以避免梯度饱和）

模型	核心改进	训练稳定性	生成质量 (FID↓)	典型应用
DCGAN	卷积结构 +BN 层	★★★☆☆	18.7	人脸生成
WGAN	Wasserstein 距离 + 权重裁剪	★★★★☆	15.2	低分辨率图像增强
CycleGAN	循环一致性损失	★★☆☆☆	23.4	风格迁移

（注：FID 分数在 CelebA 数据集上的测试结果，数值越小越好）

import tensorflow as tf
from tensorflow.keras import layers

# 生成器架构（转置卷积实现）def build_generator(latent_dim=100):
    model = tf.keras.Sequential([layers.Dense(4*4*256, use_bias=False, input_shape=(latent_dim,)),
        layers.BatchNormalization(),
        layers.LeakyReLU(0.2),
        layers.Reshape((4, 4, 256)),
        # 上采样至 64x64
        layers.Conv2DTranspose(128, (5,5), strides=(2,2), padding='same', use_bias=False),
        layers.BatchNormalization(),
        layers.LeakyReLU(0.2),
        # 输出层使用 tanh 激活（像素值归一化到 [-1,1]）layers.Conv2DTranspose(3, (5,5), strides=(2,2), padding='same', activation='tanh') 
    ])
    return model

# 梯度惩罚（WGAN-GP 关键实现）def gradient_penalty(discriminator, real_img, fake_img, batch_size):
    alpha = tf.random.uniform([batch_size, 1, 1, 1], 0., 1.)
    interpolates = alpha * real_img + (1-alpha) * fake_img
    with tf.GradientTape() as tape:
        tape.watch(interpolates)
        pred = discriminator(interpolates)
    gradients = tape.gradient(pred, [interpolates])[0]
    slopes = tf.sqrt(tf.reduce_sum(tf.square(gradients), axis=[1,2,3]))
    return tf.reduce_mean((slopes-1.)**2)

关键参数说明：
– latent_dim=100：噪声向量维度
– strides=(2,2)：特征图空间分辨率加倍
– leak=0.2：LeakyReLU 负区间的斜率系数