Charbonnier损失函数在图像恢复任务中的实战应用与调优指南

1次阅读

没有评论

共计 1258 个字符，预计需要花费 4 分钟才能阅读完成。

在图像恢复任务（如去噪、超分辨率）中，L1 和 L2 损失函数是两种最基础的选择。但它们各自存在明显缺陷：

L1 损失（MAE）：对异常值鲁棒但收敛速度慢，且在梯度接近零时不稳定
L2 损失（MSE）：对异常值敏感，会过度惩罚大的误差导致图像过度平滑

传统损失函数在处理真实场景中的噪声时（如相机传感器噪声、压缩伪影），往往会使恢复后的图像出现伪影或细节丢失。这正是 Charbonnier 损失函数的用武之地。

Charbonnier 损失函数的定义如下：

$$
\mathcal{L}_{char}(x) = \sqrt{x^2 + \epsilon^2}
$$

其中：
– $x$ 是预测值与真实值的差
– $\epsilon$ 是平滑参数（通常取 1e- 3 到 1e-6）

关键优势在于：
1. 当 $x$ 较大时，行为类似 L1 损失，避免异常值主导训练
2. 当 $x$ 较小时，近似 L2 损失，保持平滑的梯度流动
3. 处处可微，没有 L1 损失在零点不可导的问题

def charbonnier_loss(pred, target, eps=1e-3):
    """
    Args:
        pred: 模型预测值 (B,C,H,W)
        target: 真实图像 (B,C,H,W)
        eps: 平滑参数，默认 1e-3
    Returns:
        loss: 标量损失值
    """
    diff = pred - target
    loss = torch.sqrt(diff * diff + eps * eps)
    return loss.mean()

# 使用示例
loss_fn = partial(charbonnier_loss, eps=1e-3)
optimizer = torch.optim.Adam(model.parameters(), lr=1e-4)

参数选择建议：
– 一般任务：eps=1e-3
– 高精度任务：eps=1e-6
– 噪声严重的数据：eps=1e-2

我们在 BSD68 数据集上测试了不同损失函数对 DnCNN 去噪模型的影响（σ=25）：