C++实现支持向量机(SVM)从入门到实战：手写数字识别案例详解

1次阅读

没有评论

共计 2209 个字符，预计需要花费 6 分钟才能阅读完成。

支持向量机 (Support Vector Machine) 是一种经典的监督学习算法，其核心思想是通过寻找一个最优超平面，使得不同类别数据之间的间隔 (margin) 最大化。用数学语言描述，对于线性可分情况，SVM 求解以下优化问题：

$$
\min_{w,b} \frac{1}{2}||w||^2 \quad \text{s.t.} \quad y_i(w^Tx_i + b) \geq 1
$$

当数据线性不可分时，通过核函数 (kernel trick) 将数据映射到高维空间实现分离。常见核函数包括线性核、多项式核和高斯径向基 (RBF) 核。

相比 Python 生态的 scikit-learn，C++ 实现 SVM 具有以下特点：

优势：
运行效率高，适合处理大规模数据
便于集成到现有 C ++ 项目
部署时无需 Python 环境依赖
挑战：
成熟库较少(主要依赖 OpenCV/Dlib)
调试工具链复杂
缺少像 Jupyter 那样的交互环境

使用 CMake 管理项目依赖(OpenCV 4.x)：

cmake_minimum_required(VERSION 3.10)
project(svm_demo)

find_package(OpenCV REQUIRED)
add_executable(svm_demo main.cpp)
target_link_libraries(svm_demo ${OpenCV_LIBS})

MNIST 数据集需要先转换为 OpenCV 的 Mat 格式：

// 加载 CSV 格式的 MNIST 数据
cv::Ptr<cv::ml::TrainData> loadData(const std::string& path) {
    cv::Mat data, labels;
    // 实际项目中建议使用内存映射方式加载大数据文件
    // 这里简化为逐行读取 CSV
    // ...

    // 归一化到 [0,1] 范围
    data.convertTo(data, CV_32F, 1.0/255);
    return cv::ml::TrainData::create(data, cv::ml::ROW_SAMPLE, labels);
}

cv::Ptr<cv::ml::SVM> trainSVM(cv::Ptr<cv::ml::TrainData> dataset) {auto svm = cv::ml::SVM::create();

    // 关键参数配置
    svm->setType(cv::ml::SVM::C_SVC);
    svm->setKernel(cv::ml::SVM::RBF);
    svm->setC(10);  // 惩罚系数
    svm->setGamma(0.01);  // RBF 核参数

    // 自动训练（支持交叉验证）svm->trainAuto(dataset);

    // 保存模型
    svm->save("mnist_svm.xml");
    return svm;
}

class SVM_Predictor {
public:
    void loadModel(const std::string& path) {model_ = cv::ml::SVM::load(path);
    }

    int predict(const cv::Mat& sample) {
        // 输入样本需要与训练时相同的预处理
        cv::Mat normalized;
        sample.convertTo(normalized, CV_32F, 1.0/255);
        return static_cast<int>(model_->predict(normalized));
    }

private:
    cv::Ptr<cv::ml::SVM> model_;
};

核函数	准确率(%)	训练时间(s)
线性核	89.2	12.4
RBF 核	95.7	28.6
多项式核	91.3	34.2

// 使用 OpenCV 的并行框架
cv::parallel_for_(cv::Range(0, samples.rows), [&](const cv::Range& range) {for (int i = range.start; i < range.end; ++i) {results[i] = predictor.predict(samples.row(i));
    }
});