对比学习（BCL）原理剖析与实战指南：从基础概念到工业级应用

1次阅读

共计 2194 个字符，预计需要花费 6 分钟才能阅读完成。

对比学习（Contrastive Learning）是自监督学习中的重要范式，其核心思想是通过拉近相似样本（正样本对）、推开不相似样本（负样本对）来学习有效表征。与监督学习不同，BCL 不依赖人工标注，而是通过数据自身的结构关系构建学习信号。

当所有样本映射到相同特征点时，模型会失去判别能力。数学表现为：

$$\forall x_i,x_j \Rightarrow f(x_i) \approx f(x_j)$$

解决方法：
– 引入负样本队列（Memory Bank）
– 使用动量编码器（Momentum Encoder）平滑特征更新

传统方法计算所有样本对的复杂度为 O(N^2)。优化方案：

维护固定大小的负样本队列
使用 in-batch 负样本
采用近邻检索筛选困难负样本

温度系数控制对比损失的敏感度：

$$\mathcal{L} = -\log\frac{e^{sim(q,k^+)/\tau}}{\sum_{i=0}^K e^{sim(q,k_i)/\tau}}$$

实验表明 τ =0.07~0.2 效果最佳，过高会导致区分度下降，过低会引发训练不稳定。

def info_nce_loss(query, positive_key, temperature=0.07):
    """
    query: 锚点样本特征 [N, D]
    positive_key: 正样本特征 [N, D]
    temperature: 温度系数
    """
    # 归一化特征向量
    query = F.normalize(query, dim=1)
    positive_key = F.normalize(positive_key, dim=1)

    # 计算相似度矩阵
    logits = torch.matmul(query, positive_key.T) / temperature

    # 构建标签（对角线为正样本）labels = torch.arange(logits.shape[0], device=query.device)

    # 计算交叉熵损失
    return F.cross_entropy(logits, labels)

class MomentumEncoder(nn.Module):
    def __init__(self, base_encoder, momentum=0.999):
        super().__init__()
        self.momentum = momentum
        self.online_encoder = base_encoder
        self.target_encoder = deepcopy(base_encoder)

        # 冻结目标编码器参数
        for param in self.target_encoder.parameters():
            param.requires_grad = False

    @torch.no_grad()
    def update(self):
        """动量更新目标编码器"""
        for online_param, target_param in zip(self.online_encoder.parameters(), 
            self.target_encoder.parameters()):
            target_param.data = target_param.data * self.momentum + \
                               online_param.data * (1. - self.momentum)

方法	Top-1 Acc	Top-5 Acc
Supervised	93.5%	99.2%
SimCLR	89.7%	98.1%
MoCo v2	91.2%	98.5%

Batch Size	显存占用	训练时间 /epoch
256	5.8GB	12min
512	9.3GB	8min
1024	OOM	–

使用 DistributedDataParallel 替代DataParallel
梯度同步采用 all_gather 而非broadcast
设置 find_unused_parameters=True 应对动态计算图

scaler = torch.cuda.amp.GradScaler()

with torch.cuda.amp.autocast():
    features = model(inputs)
    loss = criterion(features)

scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()