CMAPSS数据集FD004过拟合问题分析与解决方案：从数据增强到模型正则化

1次阅读

没有评论

共计 1773 个字符，预计需要花费 5 分钟才能阅读完成。

CMAPSS 数据集中的 FD004 子集是航空发动机剩余使用寿命 (RUL) 预测领域公认的 hard 模式，其核心挑战来自两个维度：

多工况混合：包含 6 种不同飞行工况（如爬升、巡航），传感器读数随工况变化呈现显著分布偏移
多故障并发：同时模拟风扇退化、高压压缩机腐蚀等 4 种故障模式，故障特征相互耦合

这种复杂性导致传统 LSTM 模型在训练集上 RMSE 可低至 12，但验证集表现骤降至 25+，典型过拟合症状表现为：

对特定工况的传感器噪声过度敏感
在故障模式交界区域预测抖动剧烈
验证损失在 10 个 epoch 后开始反弹

滑动窗口增强策略：

# 参数说明：window_size=30(覆盖典型故障发展周期), stride=5(平衡信息密度与样本量)
def sliding_window(data, window_size, stride):
    return [data[i:i+window_size] for i in range(0, len(data)-window_size, stride)]

工况特征编码实践：

对操作条件 (op_cond) 进行 one-hot 编码
添加工况与核心传感器（如 T24、T30）的交叉特征
使用 t -SNE 可视化验证特征可分性

LSTM+Attention 设计要点：

双向 LSTM 层捕捉前后向时序依赖（hidden_size=64）

注意力层计算时间步权重：

# score = W*tanh(U*h_i + V*h_avg)
self.attention_weights = nn.Parameter(torch.randn(hidden_size*2))

Dropout 率设为 0.3（经网格搜索验证）
Label Smoothing 系数 0.1 缓解错误标签影响

class CMAPSSDataset(Dataset):
    def __init__(self, df):
        # 传感器归一化：按引擎 ID 分组标准化
        self.scaler = StandardScaler()
        grouped = df.groupby('unit')
        self.normalized = grouped.apply(lambda x: self.scaler.fit_transform(x[sensor_cols]))

        # 构建 RUL 标签
        self.labels = df.groupby('unit').size().values

    def __getitem__(self, idx):
        return torch.FloatTensor(self.normalized[idx]), torch.FloatTensor([self.labels[idx]])

class HybridLoss(nn.Module):
    def __init__(self, alpha=0.7):
        super().__init__()
        self.alpha = alpha  # MAE 权重

    def forward(self, pred, true):
        mae = F.l1_loss(pred, true)

        # 健康状态先验（最后 20 个周期权重加倍）health_prior = (true < 20).float() * 2.0
        weighted_mse = (pred - true).pow(2) * health_prior.mean()

        return self.alpha*mae + (1-self.alpha)*weighted_mse