C++实战：从零构建卷积神经网络(CNN)的完整指南

1次阅读

没有评论

共计 2641 个字符，预计需要花费 7 分钟才能阅读完成。

在图像处理领域，卷积神经网络 (CNN) 已成为标配。虽然 Python 生态有 TensorFlow/PyTorch 等成熟框架，但在以下场景更需要 C ++ 实现：

嵌入式设备资源受限时（如 ARM Cortex- M 系列）
需要与现有 C ++ 代码库深度集成
对实时性要求严格的工业场景
需要极致性能优化的高频交易系统

卷积运算本质是局部加权求和，用 LaTeX 表示为：

$$(I * K)(x,y) = \sum_{i=-a}^{a}\sum_{j=-b}^{b} I(x+i,y+j) \cdot K(i,j)$$

其中 $I$ 是输入图像，$K$ 是卷积核，$a,b$ 是核半径。

边界处理策略：

enum class PaddingType {
    VALID,  // 不填充，输出尺寸减小
    SAME    // 填充使输出尺寸不变
};

多通道卷积示例：

void convolve3D(const Matrix3D& input, const Matrix4D& kernels, Matrix3D& output) {// input: [height, width, in_channels]
    // kernels: [out_channels, kernel_size, kernel_size, in_channels]
    // 并行化建议放在最外层循环
    for(int oc=0; oc<kernels.dim(0); ++oc) {for(int h=0; h<output.height(); ++h) {for(int w=0; w<output.width(); ++w) {
                float sum = 0;
                for(int ic=0; ic<input.channels(); ++ic) {for(int kh=0; kh<kernel_size; ++kh) {for(int kw=0; kw<kernel_size; ++kw) {sum += input.at(h+kh, w+kw, ic) * 
                                   kernels.at(oc, kh, kw, ic);
                        }
                    }
                }
                output.at(h, w, oc) = sum + biases[oc];
            }
        }
    } 
}

void relu(Matrix3D& mat) {std::transform(mat.data(), mat.data()+mat.size(),
                  mat.data(), [](float x){return x>0 ? x : 0;});
}

void maxPooling(const Matrix3D& input, int pool_size, Matrix3D& output) {
    #pragma omp parallel for  // OpenMP 并行
    for(int c=0; c<input.channels(); ++c) {for(int h=0; h<output.height(); h+=pool_size) {for(int w=0; w<output.width(); w+=pool_size) {
                float max_val = -FLT_MAX;
                for(int ph=0; ph<pool_size; ++ph) {for(int pw=0; pw<pool_size; ++pw) {
                        max_val = std::max(max_val, 
                            input.at(h+ph, w+pw, c));
                    }
                }
                output.at(h/pool_size, w/pool_size, c) = max_val;
            }
        }
    }
}

优先采用行主序 (row-major) 存储
对于大张量，使用内存池预分配
热点变量标记 alignas(32) 保证 SIMD 对齐

#include <immintrin.h>

void conv3x3_simd(const float* input, const float* kernel, float* output) {__m256 sum = _mm256_setzero_ps();
    for(int i=0; i<9; i+=8) {__m256 a = _mm256_load_ps(input + i);
        __m256 b = _mm256_load_ps(kernel + i);
        sum = _mm256_fmadd_ps(a, b, sum);
    }
    _mm256_store_ps(output, sum);
}

cmake_minimum_required(VERSION 3.10)
project(CNN_MNIST)

set(CMAKE_CXX_STANDARD 17)
set(CMAKE_CXX_FLAGS "-O3 -mavx2 -fopenmp")

add_executable(cnn_mnist
    src/main.cpp
    src/layers.cpp
    src/mnist_loader.cpp)

for(int epoch=0; epoch<10; ++epoch) {
    float total_loss = 0;
    for(auto& [images, labels] : train_loader) {
        // 前向传播
        conv1.forward(images);
        relu(conv1_output);
        pool1.forward(conv1_output);
        // ... 各层传播

        // 计算交叉熵损失
        loss = -log(output[true_label]);

        // 反向传播（略）// 权重更新
        optimizer.step();}
    std::cout << "Epoch" << epoch << "loss:" 
              << total_loss/train_size << std::endl;
}