深入解析Ceres中的损失函数：从原理到工程实践

1次阅读

共计 2490 个字符，预计需要花费 7 分钟才能阅读完成。

在非线性优化问题中，选择合适的损失函数对于模型的性能和鲁棒性至关重要。本文将深入剖析 Ceres Solver 中的损失函数实现机制，对比常见损失函数的适用场景，并提供实际代码示例展示如何自定义损失函数。通过这篇文章，读者将掌握在 SLAM、Bundle Adjustment 等场景中针对异常值鲁棒性优化的关键技术，提升算法收敛速度和精度。

在传统的非线性最小二乘问题中，目标函数通常采用平方损失（即 L2 范数）。然而，当数据中存在异常值时，平方损失会放大这些异常值的影响，导致优化结果偏离真实解。

异常值的影响：
异常值会导致梯度爆炸，使优化过程不稳定
传统最小二乘对异常值敏感，容易产生偏差
鲁棒损失函数的优势：
Huber 损失在误差较小时保持二次特性，在误差较大时变为线性，降低异常值影响
Cauchy 损失对异常值更加鲁棒，适用于重尾分布数据

Ceres Solver 提供了多种内置损失函数，每种都有其特定的数学特性和适用场景。

TrivialLoss（平方损失）：
[\rho(r) = r^2 ]
最简单的损失函数，计算高效
对异常值敏感
HuberLoss：
[\rho(r) = \begin{cases}
r^2 & \text{如果} |r| \leq \delta \
2\delta|r| – \delta^2 & \text{否则}
\end{cases} ]
在误差小于阈值 δ 时保持二次特性
对大于 δ 的误差采用线性惩罚
CauchyLoss：
[\rho(r) = c^2 \log\left(1 + \left(\frac{r}{c}\right)^2\right) ]
对异常值更加鲁棒
适用于重尾分布数据

Ceres 中的损失函数通过继承 ceres::LossFunction 基类实现。理解这个继承体系对于自定义损失函数至关重要。

基类设计：
ceres::LossFunction定义了纯虚函数Evaluate
所有具体损失函数都需要实现这个接口
与自动微分的结合：
autoDiffCostFunction可以与任何损失函数配合使用
损失函数在残差计算后被应用

关键接口：

virtual void Evaluate(double s, double out[3]) const = 0;

s：平方残差（r²）
out：输出数组，包含损失值、一阶导和二阶导

下面是一个完整的自定义损失函数示例，包含异常值处理的 benchmark 对比：

#include <ceres/ceres.h>

// 自定义 Tukey 损失函数
class TukeyLoss : public ceres::LossFunction {
public:
  explicit TukeyLoss(double c) : c_squared_(c * c) {}

  void Evaluate(double s, double rho[3]) const override {
    const double ratio = s / c_squared_;
    if (ratio <= 1.0) {
      const double one_minus_ratio = 1 - ratio;
      rho[0] = c_squared_ * (1 - one_minus_ratio * one_minus_ratio * one_minus_ratio) / 6.0;
      rho[1] = one_minus_ratio * one_minus_ratio;
      rho[2] = -2.0 * one_minus_ratio / c_squared_;
    } else {rho[0] = c_squared_ / 6.0;
      rho[1] = 0.0;
      rho[2] = 0.0;
    }
  }

private:
  const double c_squared_;
};

// 使用示例
void RunOptimization() {
  ceres::Problem problem;

  // 创建损失函数实例
  ceres::LossFunction* loss_function = new TukeyLoss(4.685); // 95% 效率的 Tukey 双权重

  // 添加残差块
  problem.AddResidualBlock(new ceres::AutoDiffCostFunction<MyCostFunctor, 1, 1>(new MyCostFunctor()),
    loss_function,
    &parameter
  );

  // 配置并运行求解器
  ceres::Solver::Options options;
  options.minimizer_progress_to_stdout = true;
  ceres::Solver::Summary summary;
  ceres::Solve(options, &problem, &summary);

  std::cout << summary.FullReport() << std::endl;}

在实际工程应用中，选择合适的损失函数需要综合考虑多种因素：