AI扩散模型加噪原理深度解析：从数学基础到PyTorch实现

1次阅读

共计 1196 个字符，预计需要花费 3 分钟才能阅读完成。

扩散模型的核心思想是通过逐步加噪将数据分布转化为高斯分布，再学习逆过程实现生成。前向扩散过程定义为：

q(x_t|x_{t-1}) = \mathcal{N}(x_t; \sqrt{1-\beta_t}x_{t-1}, \beta_t\mathbf{I})

其中 β_t 是噪声调度参数。DDPM 与 Score-Based 模型的主要差异在于：

DDPM 采用固定步长的离散加噪过程
Score-Based 模型通过 SDE 描述连续加噪过程

class NoiseScheduler:
    def __init__(self, schedule_type='linear', T=1000, beta_start=1e-4, beta_end=0.02):
        self.T = T
        if schedule_type == 'linear':
            self.betas = torch.linspace(beta_start, beta_end, T)
        elif schedule_type == 'cosine':
            self.betas = torch.cos(torch.linspace(0, math.pi, T) * 0.5 + math.pi * 0.5)
            self.betas = (self.betas + 1) * (beta_end - beta_start) / 2 + beta_start
        self.alphas = 1 - self.betas
        self.alpha_bars = torch.cumprod(self.alphas, dim=0)

    def sample_timesteps(self, batch_size):
        return torch.randint(0, self.T, (batch_size,))

def forward_diffusion(x0, t, scheduler):
    """
    x0: 原始图像 [B,C,H,W]
    t: 时间步 [B,]
    """
    noise = torch.randn_like(x0)
    alpha_bar = scheduler.alpha_bars[t][:,None,None,None]  # 广播到图像尺寸
    x_t = torch.sqrt(alpha_bar) * x0 + torch.sqrt(1 - alpha_bar) * noise
    return x_t, noise

在 CIFAR-10 上的测试结果：