Bradley-Terry损失函数原理剖析与机器学习实战指南

1次阅读

没有评论

共计 1995 个字符，预计需要花费 5 分钟才能阅读完成。

在推荐系统和搜索排序场景中，我们经常遇到这样的数据：用户对物品 A 和物品 B 进行了比较（比如点击 A 而跳过 B），但缺乏绝对评分。传统的均方误差 (MSE) 或交叉熵损失无法直接利用这种非对称的配对比较数据。

Bradley-Terry 模型的核心价值在于：

将物品的全局排序问题转化为两两比较的概率建模
通过潜在能力分数 θ 量化物品的相对优劣
特别适合处理隐式反馈数据（如点击流、对战结果）

模型假设物品 i 战胜物品 j 的概率为：

$$ P(i > j) = \frac{e^{\theta_i}}{e^{\theta_i} + e^{\theta_j}} $$

通过最大似然估计，我们得到损失函数（负对数似然）：

$$ \mathcal{L} = -\sum_{(i,j)\in D} \left[y_{ij} \log P(i>j) + (1-y_{ij}) \log P(j>i) \right] $$

其中：

$\theta_i$ 表示物品 i 的潜在能力分数
$y_{ij}$ 是观察到的比较结果（1 表示 i 胜出，0 反之）
为避免参数爆炸，通常约束 $\sum \theta_i = 0$

import torch
from itertools import combinations

# 假设有 100 个物品，生成所有可能配对
def generate_pairs(n_items=100):
    return torch.tensor(list(combinations(range(n_items), 2)))

# 模拟观察结果（1 表示前者获胜）def simulate_observations(pairs, true_scores):
    prob = torch.sigmoid(true_scores[pairs[:,0]] - true_scores[pairs[:,1]])
    return (torch.rand(len(pairs)) < prob).float()

class BradleyTerryLoss(torch.nn.Module):
    def __init__(self):
        super().__init__()

    def forward(self, scores, pairs, observations):
        # 计算每对物品的得分差
        score_diff = scores[pairs[:,0]] - scores[pairs[:,1]]

        # 避免数值不稳定
        score_diff = torch.clamp(score_diff, -10, 10)

        # 计算对数似然
        losses = torch.nn.functional.binary_cross_entropy_with_logits(score_diff, observations, reduction='none')

        return losses.mean()

# 将数据和模型移至 GPU
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model = torch.nn.Linear(n_features, 1).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)

# 在训练循环中使用 pin_memory 加速数据加载
train_loader = DataLoader(dataset, batch_size=1024, 
                         shuffle=True, pin_memory=True)

在 LETOR 数据集上的对比实验结果：