CIFAR10数据集数据增强实战：从基础方法到性能优化

1次阅读

共计 1667 个字符，预计需要花费 5 分钟才能阅读完成。

CIFAR10 是一个经典的图像分类数据集，包含 10 个类别的 60000 张 32×32 小尺寸图像。虽然类别平衡，但每个类别仅有 6000 张训练样本，远小于现代深度学习模型的需求量。这种数据稀缺性容易导致模型过拟合——在训练集上表现良好，但在测试集上泛化能力差。

传统解决方案如 L2 正则化或 Dropout 虽然有一定效果，但无法从根本上增加数据的多样性。数据增强通过对训练图像进行一系列变换，生成 ” 新 ” 样本，是缓解小数据集过拟合的更有效方法。

随机水平翻转：以 50% 概率左右翻转图像，简单但有效
随机裁剪：从 36×36 零填充图像中裁剪 32×32 区域
颜色抖动：轻微调整亮度、对比度和饱和度

CutOut：随机擦除图像中的方形区域，迫使模型关注全局特征
RandAugment：自动搜索最佳增强策略组合
CutMix：将两幅图像的部分区域混合，同时混合标签，显著提升模型鲁棒性

CutMix 特别适合小数据集，因为它不仅增加了样本多样性，还通过标签混合实现了正则化效果。其核心参数 alpha 控制混合区域的面积比例，通常设置在 0.2-1.0 之间。

import torch
from torchvision import transforms
import numpy as np

class CutMix:
    def __init__(self, alpha=1.0):
        self.alpha = alpha

    def __call__(self, batch):
        images, targets = batch
        indices = torch.randperm(images.size(0))
        shuffled_targets = targets[indices]

        lam = np.random.beta(self.alpha, self.alpha)
        bbx1, bby1, bbx2, bby2 = rand_bbox(images.size(), lam)

        images[:, :, bbx1:bbx2, bby1:bby2] = images[indices, :, bbx1:bbx2, bby1:bby2]
        targets = (targets, shuffled_targets, lam)
        return images, targets

def rand_bbox(size, lam):
    W, H = size[2], size[3]
    cut_rat = np.sqrt(1. - lam)
    cut_w = int(W * cut_rat)
    cut_h = int(H * cut_rat)

    cx = np.random.randint(W)
    cy = np.random.randint(H)

    bbx1 = np.clip(cx - cut_w // 2, 0, W)
    bby1 = np.clip(cy - cut_h // 2, 0, H)
    bbx2 = np.clip(cx + cut_w // 2, 0, W)
    bby2 = np.clip(cy + cut_h // 2, 0, H)

    return bbx1, bby1, bbx2, bby2

完整的数据加载器实现应包含标准化处理（mean=[0.4914, 0.4822, 0.4465], std=[0.247, 0.243, 0.261]）和 GPU 加速。

使用 ResNet18 在相同超参数下测试不同增强策略：