从判别式到生成式：AI发展历程中的技术演进与实战应用

1次阅读

共计 1934 个字符，预计需要花费 5 分钟才能阅读完成。

判别式模型和生成式模型代表了 AI 发展的两大分支。要理解它们的演进，我们可以看看几个关键里程碑：

2001 年 ：支持向量机(SVM) 成为判别式模型的代表，在分类任务上表现优异
2012 年：AlexNet 在 ImageNet 竞赛中夺冠，标志着 CNN 和判别式模型在计算机视觉领域的突破
2014 年 ：生成对抗网络(GAN) 的提出，开创了生成式模型的新纪元
2015 年 ：变分自编码器(VAE) 为生成式模型提供了概率框架
2020 年至今 ：扩散模型和大型语言模型(如 GPT) 将生成式 AI 推向新高度

维度	判别式模型	生成式模型
数学原理	条件概率 P(Y	X)
损失函数	交叉熵、hinge loss	ELBO、对抗损失
计算复杂度	相对较低	通常较高
数据需求	标注数据	大量无标注数据
典型应用	分类、检测	生成、补全

# 生成器网络
class Generator(nn.Module):
    def __init__(self, latent_dim):
        super().__init__()
        self.main = nn.Sequential(
            # 输入是 latent vector
            nn.ConvTranspose2d(latent_dim, 512, 4, 1, 0, bias=False),
            nn.BatchNorm2d(512),
            nn.ReLU(True),
            # 逐步上采样到 64x64 图像
            ... # 中间层省略
            nn.ConvTranspose2d(64, 3, 4, 2, 1, bias=False),
            nn.Tanh()  # 输出在 [-1,1] 范围
        )

# 判别器网络
class Discriminator(nn.Module):
    def __init__(self):
        super().__init__()
        self.main = nn.Sequential(
            # 输入 3x64x64 图像
            nn.Conv2d(3, 64, 4, 2, 1, bias=False),
            nn.LeakyReLU(0.2, inplace=True),
            ... # 中间层省略
            nn.Conv2d(512, 1, 4, 1, 0, bias=False),
            nn.Sigmoid()  # 输出为真假概率)

# 梯度惩罚实现(WGAN-GP)
def compute_gradient_penalty(D, real_samples, fake_samples):
    # 在真实和生成样本之间随机插值
    alpha = torch.rand(real_samples.size(0), 1, 1, 1)
    interpolates = (alpha * real_samples + ((1 - alpha) * fake_samples)).requires_grad_(True)
    d_interpolates = D(interpolates)

    # 计算梯度
    gradients = torch.autograd.grad(
        outputs=d_interpolates,
        inputs=interpolates,
        grad_outputs=torch.ones_like(d_interpolates),
        create_graph=True,
        retain_graph=True,
    )[0]

    # 计算惩罚项
    gradient_penalty = ((gradients.norm(2, dim=1) - 1) ** 2).mean()
    return gradient_penalty

# 使用 torch_fid 库计算 FID 分数
def calculate_fid(real_imgs, generated_imgs):
    fid = FIDScore()
    fid.update(real_imgs, real=True)
    fid.update(generated_imgs, real=False)
    return fid.compute()