CIFAR-10图像分类实战：基于深度神经网络与支持向量机的对比分析与实现

1次阅读

没有评论

共计 2286 个字符，预计需要花费 6 分钟才能阅读完成。

CIFAR-10 是一个经典的图像分类数据集，包含 10 个类别的 60000 张 32×32 彩色图像。这个数据集虽然规模不大，但在计算机视觉领域被广泛用于算法验证，主要因为它具有以下特点：

小尺寸图像：32×32 的低分辨率给特征提取带来挑战
类别平衡：每个类别恰好 6000 张图像，避免了数据不平衡问题
真实场景复杂性：包含飞机、汽车、鸟类等多样化的物体

主要挑战在于：

有限的训练样本（每类仅 5000 张）容易导致过拟合
低分辨率使细粒度特征难以捕捉
彩色图像增加了特征维度

优势：
– 自动特征学习能力
– 端到端训练
– 对复杂模式识别效果好

劣势：
– 需要大量计算资源
– 训练时间较长
– 调参复杂度高

优势：
– 小样本下泛化能力强
– 训练速度快
– 数学理论基础扎实

劣势：
– 需要手动设计特征
– 对非线性问题核函数选择关键
– 难以处理高维数据

适用场景：
– DNN 适合有足够计算资源且追求高精度的场景
– SVM 适合快速原型开发或资源受限环境

标准化 ：将像素值归一化到[0,1] 或使用均值标准差归一化
数据增强（仅 DNN）：
随机水平翻转
小角度旋转
亮度 / 对比度微调

关键组件：
– 初始卷积层（7×7 卷积 +BN+ReLU）
– 4 个残差块（每块 2 个卷积层）
– 全局平均池化
– 全连接分类层

HOG 特征：
计算图像梯度方向直方图
参数：细胞大小 8 ×8，块大小 2 ×2
CNN 特征（替代方案）：
使用预训练 CNN 的中间层输出
通常选择最后一个卷积层的激活图

import torch
import torchvision
import torch.nn as nn
import torch.optim as optim

transform_train = torchvision.transforms.Compose([torchvision.transforms.RandomHorizontalFlip(),
    torchvision.transforms.ToTensor(),
    torchvision.transforms.Normalize((0.5,0.5,0.5), (0.5,0.5,0.5))
])

trainset = torchvision.datasets.CIFAR10(root='./data', train=True, download=True, transform=transform_train)

trainloader = torch.utils.data.DataLoader(trainset, batch_size=128, shuffle=True)

model = torchvision.models.resnet18(pretrained=False)
model.fc = nn.Linear(512, 10)  # 修改输出层

criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(model.parameters(), lr=0.1, momentum=0.9)

for epoch in range(10):
    for inputs, labels in trainloader:
        optimizer.zero_grad()
        outputs = model(inputs)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()

from sklearn.svm import SVC
from sklearn.decomposition import PCA
from skimage.feature import hog
import numpy as np

# 提取 HOG 特征
def extract_hog(images):
    features = []
    for img in images:
        fd = hog(img, orientations=9, pixels_per_cell=(8,8),
                cells_per_block=(2,2), channel_axis=-1)
        features.append(fd)
    return np.array(features)

X_train_hog = extract_hog(X_train)
pca = PCA(n_components=100)
X_train_pca = pca.fit_transform(X_train_hog)

svm = SVC(kernel='rbf', C=1.0, gamma='scale')
svm.fit(X_train_pca, y_train)