ArcFace损失函数公式解析：从原理到人脸识别实战优化

1次阅读

没有评论

共计 1843 个字符，预计需要花费 5 分钟才能阅读完成。

传统 softmax 损失函数在人脸识别任务中存在明显不足：

特征空间重叠 ：softmax 只要求分类正确，同类样本的特征向量可能分散在不同方向
类内差异大 ：同一个人在不同光照、角度下的特征距离可能比不同人之间更大
决策边界模糊 ：分类界面附近缺乏明确的间隔 (margin)，影响模型判别力

ArcFace 的核心思想是在角度空间引入间隔。我们先看原始 softmax：

$$L = -\frac{1}{N}\sum_{i=1}^N \log\frac{e^{W_{y_i}^T x_i + b_{y_i}}}{\sum_{j=1}^n e^{W_j^T x_i + b_j}}$$

ArcFace 做了三个关键改进：

特征和权重归一化 ：
$$|x_i|=1, |W_j|=1, b_j=0$$
用角度代替内积 ：
$$W_j^T x_i = \cos\theta_j$$
引入角度间隔 m ：
$$\cos(\theta_{y_i} + m)$$

最终损失函数变为：

$$L = -\frac{1}{N}\sum_{i=1}^N \log\frac{e^{s\cdot\cos(\theta_{y_i}+m)}}{e^{s\cdot\cos(\theta_{y_i}+m)} + \sum_{j\neq y_i} e^{s\cdot\cos\theta_j}}$$

其中 s 是特征尺度超参数，m 控制类间间隔大小。

import torch
import torch.nn as nn
import torch.nn.functional as F

class ArcFace(nn.Module):
    def __init__(self, feat_dim, num_classes, s=30.0, m=0.5):
        super().__init__()
        self.weight = nn.Parameter(torch.Tensor(feat_dim, num_classes))
        nn.init.xavier_normal_(self.weight)
        self.s = s
        self.m = m

    def forward(self, features, labels):
        # 特征和权重归一化
        features = F.normalize(features)
        W = F.normalize(self.weight, dim=0)

        # 计算角度余弦
        cosine = F.linear(features, W)  # (batch, num_classes)
        theta = torch.acos(torch.clamp(cosine, -1+1e-7, 1-1e-7))

        # 仅对正确类别添加 margin
        one_hot = F.one_hot(labels, num_classes=self.weight.shape[1])
        cosine_m = torch.cos(theta + self.m * one_hot)

        # 缩放 logits
        logits = self.s * (one_hot * cosine_m + (1 - one_hot) * cosine)
        loss = F.cross_entropy(logits, labels)

        return loss