C#随机森林模型R2指标优化实战：从数据预处理到参数调优

1次阅读

共计 2185 个字符，预计需要花费 6 分钟才能阅读完成。

R2（决定系数）是评估回归模型拟合优度的核心指标，计算公式为：

R² = 1 - Σ(yᵢ - ŷᵢ)² / Σ(yᵢ - ȳ)²

其中 yᵢ是真实值，ŷᵢ是预测值，ȳ是均值。其值域在 0~1 之间（可能为负），越接近 1 表示模型解释的方差比例越高。需要注意的是：

与相关系数的区别：R2 反映的是预测值与真实值的误差比例，而非线性关系强度
** Adjusted R2**：考虑特征数量后的修正版本，防止过拟合

实际项目中 R2 值偏低往往由以下原因导致：

特征共线性：多个强相关特征导致模型权重分配混乱
数据泄露：测试集信息意外混入训练过程（如全局标准化）
欠拟合：特征工程不足或树深度设置过小
异常值干扰：未处理的极端值扭曲损失函数计算

可通过以下代码快速验证：

// 检查特征相关性
var correlationMatrix = mlContext.Transforms.
    ComputeFeatureCorrelation("Features").Fit(dataView);

// 检测数据泄露
var trainTestSplit = mlContext.Data.TrainTestSplit(dataView, testFraction: 0.2);
Console.WriteLine($"Train set mean: {trainTestSplit.TrainSet.GetColumn<float>(\"Label\").Average()}");

ML.NET 提供了强大的特征处理工具链：

var pipeline = mlContext.Transforms
    .Concatenate("Features", "NumCol1", "NumCol2")
    .Append(mlContext.Transforms.NormalizeMinMax("Features"))
    .Append(mlContext.Transforms.Categorical.OneHotEncoding(new InputOutputColumnPair[]{new("CatCol1"), 
            new("CatCol2")
        }));

通过排列重要性分析剔除冗余特征：

var trainer = mlContext.Regression.Trainers.FastForest(
    new FastForestRegressionTrainer.Options{
        NumberOfTrees = 100,
        FeatureFraction = 0.8
    });

var model = trainer.Fit(dataView);
var permutationMetrics = mlContext.Regression
    .PermutationFeatureImportance(model, dataView);

// 输出重要性排序
foreach (var metric in permutationMetrics)
    Console.WriteLine($"{metric.Key}: {metric.Value.RSquared}");

结合网格搜索与交叉验证：

var sweepParams = new SweepablePipeline()
    .Append(mlContext.Regression.Trainers.FastForest(new SweepableOption<FastForestRegressionTrainer.Options>(){NumberOfTrees = Choice(50, 100, 200),
            FeatureFraction = Choice(0.6f, 0.8f, 1.0f)
        }));

var sweepJob = mlContext.Auto().CreateRegressionExperiment(5);
var result = sweepJob.Execute(dataView, "Label");

使用 mlContext.Data.Cache(dataView) 谨慎控制缓存
对大型数据集采用 IDataView 惰性加载

// 显式设置随机种子保证可复现性
var options = new FastForestRegressionTrainer.Options{
    RandomSeed = 42,
    NumberOfThreads = Environment.ProcessorCount / 2 // 避免资源争抢
};

建议实现滑动窗口评估：

// 每 1000 条新数据重新评估
var windowEvaluator = mlContext.Regression.Evaluate(model.Transform(newDataView),
    labelColumnName: "Label",
    scoreColumnName: "Score");

if (windowEvaluator.RSquared < threshold)
    RetrainModel();