C#多项式拟合实战：使用交叉验证避免过拟合的工程实践

1次阅读

没有评论

共计 1568 个字符，预计需要花费 4 分钟才能阅读完成。

多项式回归常用于需要对非线性关系建模的场景，例如：

传感器数据的曲线拟合（如温度传感器读数校准）
经济指标的趋势预测（如 GDP 增长率分析）
科学实验数据的经验公式推导（如化学反应速率建模）

过拟合的典型表现是：

训练集上的均方误差 (MSE) 极低（如 0.01）
测试集上的 MSE 显著升高（如比训练集高 5 -10 倍）
拟合曲线出现不自然的剧烈波动（特别是数据稀疏区域）

普通最小二乘法：
直接最小化训练误差
易受噪声数据影响
无法自动选择最优多项式阶数
带交叉验证的方法：
通过数据分割评估泛化性能
可量化不同阶数的过拟合风险
支持自动选择正则化参数

MathNet.Numerics的 Polynomial 类提供：
Fit方法进行多项式系数计算
Evaluate方法进行预测值计算
交叉验证流程：
将数据分为 k 个等份（通常 k = 5 或 10）
轮流用 k - 1 份训练，剩余 1 份验证
重复 k 次取误差平均值

// 生成带噪声的测试数据
var rng = new Random(42);
var x = Generate.LinearRange(0, 10, 100);
var y = x.Select(v => 
    0.5 * v * v - 2 * v + 3 + rng.NextDouble()).ToArray();

// k 折交叉验证实现
double CrossValidate(double[] x, double[] y, int degree, int k=5)
{var indices = Enumerable.Range(0, x.Length).ToArray();
    var folds = indices.Partition(k);

    double totalError = 0;
    foreach (var testIndices in folds)
    {var trainX = x.Except(testIndices.Select(i => x[i])).ToArray();
        var trainY = y.Except(testIndices.Select(i => y[i])).ToArray();

        // 多项式拟合
        var p = Polynomial.Fit(trainX, trainY, degree);

        // 计算验证误差
        double foldError = testIndices
            .Sum(i => Math.Pow(p.Evaluate(x[i]) - y[i], 2));
        totalError += foldError / testIndices.Length;
    }
    return totalError / k;
}

// 测试 1 -10 阶多项式的交叉验证误差
var errors = new Dictionary<int, double>();
for (int d = 1; d <= 10; d++)
{errors[d] = CrossValidate(x, y, d);
    Console.WriteLine($"Degree {d}: CV Error={errors[d]:F4}");
}