C&W损失函数在对抗样本生成中的实战应用与优化策略

1次阅读

没有评论

共计 1495 个字符，预计需要花费 4 分钟才能阅读完成。

对抗样本生成是机器学习安全领域的重要研究方向，其核心目标是通过微小扰动使模型产生错误预测。传统方法多采用交叉熵损失函数，但在实践中存在两个显著问题：

梯度消失问题 ：当原始分类置信度较高时，交叉熵梯度会趋于平缓，导致优化停滞
非定向攻击效果差 ：难以有效降低正确类别的预测概率，仅适用于定向攻击场景

Carlini & Wagner 提出的损失函数定义为：

$$\mathcal{L}(x) = \max(Z(x)_t – \max{Z(x)_i:i\neq t}, -\kappa)$$

其中：
– $Z(x)$ 为 logits 输出
– $t$ 为真实类别
– $\kappa$ 控制置信度裕量

关键优势体现在：

通过 logits 差值避免 softmax 饱和问题
$\kappa$ 参数显式控制攻击强度
天然支持非定向攻击场景

约束类型	扰动可视性	计算效率	攻击成功率
L2 范数	中等	较高	优
L∞范数	低	最高	良

class CWLoss(nn.Module):
    def __init__(self, kappa=0.0):
        super().__init__()
        self.kappa = kappa

    def forward(self, logits, targets):
        # 获取目标类别 logit
        target_logits = logits.gather(1, targets.view(-1,1))

        # 获取最大非目标 logit
        max_other = (logits - 1e4*torch.eye(logits.size(1))[targets].to(logits.device))
        max_other = max_other.max(1)[0]

        # 计算差值并施加 κ 约束
        loss = torch.clamp(target_logits - max_other, min=-self.kappa)
        return loss.mean()

集成 PGD 攻击的典型流程：

flowchart TD
    A[原始图像] --> B[添加随机噪声]
    B --> C{迭代优化}
    C --> D[计算 C &W 损失]
    D --> E[计算梯度]
    E --> F[更新扰动]
    F --> G[投影到约束空间]
    G --> C
    C --> H[达到最大迭代?]
    H -- 是 --> I[输出对抗样本]