CIFAR-10数据集深度解析：从数据预处理到模型训练的最佳实践

1次阅读

共计 2315 个字符，预计需要花费 6 分钟才能阅读完成。

CIFAR-10 是深度学习领域经典的图像分类基准数据集，包含以下核心特征：

图像规格：6 万张 32×32 像素的 RGB 彩色图像，分为 10 个互斥类别（飞机、汽车、鸟、猫等）
数据划分：5 万张训练集 + 1 万张测试集，每个类别样本数量均衡
挑战性：低分辨率与小尺寸使分类任务比 MNIST 更具挑战性

数据加载效率低：原生 Python 读取方式速度慢，成为训练流程瓶颈
预处理复杂：需要同时处理归一化、数据增强、批处理等操作
类别不平衡：某些子集（如猫 / 狗类别）可能实际存在样本数量差异

import torch
from torchvision import datasets, transforms

# 复合数据变换管道
train_transform = transforms.Compose([transforms.RandomHorizontalFlip(),  # 50% 概率水平翻转
    transforms.RandomCrop(32, padding=4),  # 随机裁剪 + 填充
    transforms.ToTensor(),
    transforms.Normalize((0.4914, 0.4822, 0.4465), (0.247, 0.243, 0.261))
])

# 使用内存映射提高加载速度
train_set = datasets.CIFAR10(
    root='./data', 
    train=True,
    download=True, 
    transform=train_transform
)

train_loader = torch.utils.data.DataLoader(
    train_set, 
    batch_size=256,
    shuffle=True,
    num_workers=4,  # 多进程加速
    pin_memory=True  # 启用 CUDA 锁页内存
)

import tensorflow as tf
from tensorflow.keras.datasets import cifar10

# 自动缓存 + 预取优化
def make_dataset(images, labels, is_train=True):
    aug_layers = tf.keras.Sequential([tf.keras.layers.RandomFlip("horizontal"),
        tf.keras.layers.RandomRotation(0.1)
    ])

    ds = tf.data.Dataset.from_tensor_slices((images, labels))
    if is_train:
        ds = ds.map(lambda x,y: (aug_layers(x, training=True), y),
            num_parallel_calls=tf.data.AUTOTUNE
        )

    return ds.batch(256).prefetch(tf.data.AUTOTUNE)

# 自动下载并预处理
(x_train, y_train), _ = cifar10.load_data()
train_ds = make_dataset(x_train/255., y_train)

Batch Size	训练时间 /epoch	GPU 利用率	最终准确率
32	2m13s	45%	78.2%
256	0m58s	92%	76.8%
512	0m42s	95%	75.1%

结论：建议在显存允许范围内使用较大 batch size（如 256）平衡效率与精度

永远在划分训练 / 验证集之前进行全局标准化计算
数据增强仅应用于训练集
使用 torch.manual_seed() 或tf.random.set_seed()保证可复现性

过采样少数类：使用torch.utils.data.WeightedRandomSampler

损失函数加权：

criterion = nn.CrossEntropyLoss(weight=torch.tensor([1.0, 2.0, 1.0, ...])  # 各类别权重
)

目录结构规范：

custom_dataset/
├── train/
│   ├── class1/
│   └── class2/
└── test/
    ├── class1/
    └── class2/

继承 Dataset 类：

class CustomDataset(torch.utils.data.Dataset):
    def __init__(self, root_dir, transform=None):
        self.classes = os.listdir(root_dir)
        self.transform = transform

    def __len__(self):
        return len(self.image_paths)

    def __getitem__(self, idx):
        img = Image.open(self.image_paths[idx])
        if self.transform:
            img = self.transform(img)
        return img, self.labels[idx]