CIFAR-10数据增强实战指南：从基础操作到高级技巧

1次阅读

共计 2335 个字符，预计需要花费 6 分钟才能阅读完成。

在图像分类任务中，尤其是像 CIFAR-10 这样的小规模数据集（仅包含 60,000 张 32×32 的小图像），数据增强几乎是一项必备技术。主要原因包括：

防止过拟合：小数据集容易导致模型记住训练样本而非学习通用特征
提升模型鲁棒性：通过对输入数据的各种变换，使模型对视角、光照等变化更健壮
模拟更多训练数据：相当于 ” 免费 ” 扩大了训练集规模

这些是最常用也最容易实现的基础增强：

transform = transforms.Compose([transforms.RandomHorizontalFlip(p=0.5),  # 50% 概率水平翻转
    transforms.RandomCrop(32, padding=4),    # 随机裁剪 (带 padding)
    transforms.RandomRotation(15),           # 随机旋转±15 度
])

改变图像的色彩属性而不影响其内容：

transform = transforms.Compose([
    transforms.ColorJitter(
        brightness=0.2,  # 亮度调整幅度
        contrast=0.2,    # 对比度调整幅度
        saturation=0.2,  # 饱和度调整幅度
        hue=0.1          # 色相调整幅度 (较小)
    ),
])

混合两张图像和它们的标签：

def mixup_data(x, y, alpha=1.0):
    lam = np.random.beta(alpha, alpha)
    batch_size = x.size(0)
    index = torch.randperm(batch_size)
    mixed_x = lam * x + (1 - lam) * x[index]
    y_a, y_b = y, y[index]
    return mixed_x, y_a, y_b, lam

更自然的图像区域混合方式：

def cutmix_data(x, y, alpha=1.0):
    lam = np.random.beta(alpha, alpha)
    batch_size = x.size(0)
    index = torch.randperm(batch_size)
    # 生成随机裁剪区域
    cx = np.random.uniform(0, x.shape[2])
    cy = np.random.uniform(0, x.shape[1])
    w = x.shape[2] * np.sqrt(1 - lam)
    h = x.shape[1] * np.sqrt(1 - lam)
    x1 = int(np.round(max(cx - w/2, 0)))
    x2 = int(np.round(min(cx + w/2, x.shape[2])))
    y1 = int(np.round(max(cy - h/2, 0)))
    y2 = int(np.round(min(cy + h/2, x.shape[1])))

    mixed_x = x.clone()
    mixed_x[:, y1:y2, x1:x2] = x[index, y1:y2, x1:x2]

    lam = 1 - ((x2 - x1) * (y2 - y1) / (x.shape[1] * x.shape[2]))
    y_a, y_b = y, y[index]
    return mixed_x, y_a, y_b, lam

import torch
import torchvision
import torchvision.transforms as transforms
import numpy as np

# 基础增强 + CutMix
class CIFAR10Augmentation:
    def __init__(self):
        self.base_transform = transforms.Compose([transforms.RandomCrop(32, padding=4),
            transforms.RandomHorizontalFlip(),
            transforms.ToTensor(),
            transforms.Normalize(mean=[0.4914, 0.4822, 0.4465],
                std=[0.2023, 0.1994, 0.2010]
            )
        ])

    def __call__(self, img):
        return self.base_transform(img)

# 数据加载
full_transform = CIFAR10Augmentation()
trainset = torchvision.datasets.CIFAR10(
    root='./data', train=True,
    download=True, transform=full_transform)

trainloader = torch.utils.data.DataLoader(
    trainset, batch_size=128,
    shuffle=True, num_workers=2)

我们在 ResNet-18 上测试了各种增强组合的效果：