机器学习模型诊断指南：过拟合与欠拟合的识别方法与解决策略

1次阅读

共计 2165 个字符，预计需要花费 6 分钟才能阅读完成。

训练集表现 ：模型在训练数据上达到极低误差（如准确率 >95%），损失函数值接近零
测试集表现 ：泛化性能显著下降，误差通常比训练误差高 20% 以上
典型特征 ：模型复杂度过高，学习了训练数据中的噪声和无关特征

训练集表现 ：模型无法有效拟合数据，训练误差持续处于高位
测试集表现 ：与训练误差相近但都较高，表现为系统性偏差
典型特征 ：模型容量不足或特征工程不充分

import matplotlib.pyplot as plt
from sklearn.model_selection import learning_curve

train_sizes, train_scores, test_scores = learning_curve(
    estimator=model,
    X=X_train,
    y=y_train,
    cv=5,
    scoring='accuracy'
)

# 计算均值与标准差
train_mean = np.mean(train_scores, axis=1)
train_std = np.std(train_scores, axis=1)
test_mean = np.mean(test_scores, axis=1)
test_std = np.std(test_scores, axis=1)

# 绘制学习曲线
plt.fill_between(train_sizes, train_mean - train_std, train_mean + train_std, alpha=0.1, color='r')
plt.fill_between(train_sizes, test_mean - test_std, test_mean + test_std, alpha=0.1, color='g')
plt.plot(train_sizes, train_mean, 'o-', color='r', label='Training score')
plt.plot(train_sizes, test_mean, 'o-', color='g', label='Cross-validation score')
plt.legend(loc='best')

过拟合 ：训练误差持续下降而验证误差在某个点后开始上升
欠拟合 ：两条曲线收敛于较高误差水平且差距较小

技术类型	数学形式	适用场景	实现复杂度
L1 正则化	添加 λ		w
L2 正则化	添加 λ		w
Dropout	随机丢弃神经元	深度神经网络	高

import torch.nn as nn
import torch.optim as optim

# 带 L2 正则化的模型定义
class RegularizedNN(nn.Module):
    def __init__(self, input_dim):
        super().__init__()
        self.fc1 = nn.Linear(input_dim, 64)
        self.fc2 = nn.Linear(64, 1)
        self.dropout = nn.Dropout(0.5)  # Dropout 层

    def forward(self, x):
        x = torch.relu(self.fc1(x))
        x = self.dropout(x)
        return torch.sigmoid(self.fc2(x))

# 训练配置
model = RegularizedNN(input_dim=20)
criterion = nn.BCELoss()
optimizer = optim.Adam(model.parameters(), lr=0.001, weight_decay=1e-4)  # L2 正则化

# 图像数据增强示例
from torchvision import transforms
train_transform = transforms.Compose([transforms.RandomHorizontalFlip(),
    transforms.RandomRotation(15),
    transforms.ColorJitter(brightness=0.2, contrast=0.2),
    transforms.ToTensor(),])

核心指标 ：训练 loss/ 验证 loss 比值、验证集准确率波动系数
衍生指标 ：特征权重范数变化率、梯度分布统计量

# 早停法实现
def early_stopping(val_loss, patience=5):
    if len(val_loss) < patience + 1:
        return False
    return all(v > val_loss[-patience-1] for v in val_loss[-patience:])