C++手搓CNN卷积神经网络：从零实现到性能优化实战

1次阅读

没有评论

共计 2487 个字符，预计需要花费 7 分钟才能阅读完成。

卷积神经网络作为计算机视觉的基石，在图像分类、目标检测等领域表现出色。虽然 Python 生态有成熟的深度学习框架，但在嵌入式设备、高性能计算等场景下，C++ 的独特优势就显现出来了：

极致性能：直接操作内存，避免解释器开销
资源控制：精准管理内存和计算资源
部署友好：可编译为独立二进制，无运行时依赖

现有框架如 TensorRT 和 OpenCV 固然强大，但存在场景限制：

TensorRT：适合 NVIDIA 显卡环境，但闭源且对自定义算子支持有限
OpenCV DNN：跨平台但抽象层级高，难以进行底层优化

当遇到以下情况时，手写实现更有优势：

需要支持特殊硬件（如 ARM MCU）
对二进制体积有严格限制
要求极致的实时性能（<1ms 延迟）

卷积操作的本质是局部加权求和，边界处理（padding）是第一个难点。我们采用零填充策略：

void conv2d(float* output, const float* input, const float* kernel, 
           int in_h, int in_w, int k_size, int stride) {
    const int pad = k_size / 2;
    const int out_h = (in_h + 2*pad - k_size) / stride + 1;

    for (int oh = 0; oh < out_h; ++oh) {for (int ow = 0; ow < out_w; ++ow) {
            float sum = 0;
            for (int kh = 0; kh < k_size; ++kh) {for (int kw = 0; kw < k_size; ++kw) {
                    int ih = oh*stride + kh - pad;
                    int iw = ow*stride + kw - pad;

                    // 边界检查
                    if (ih >= 0 && ih < in_h && iw >= 0 && iw < in_w) {sum += input[ih*in_w + iw] * kernel[kh*k_size + kw];
                    }
                }
            }
            output[oh*out_w + ow] = sum;
        }
    }
}

利用 AVX 指令集实现向量化计算，性能提升 4 - 8 倍：

#include <immintrin.h>

void relu_avx(float* data, size_t len) {const __m256 zero = _mm256_setzero_ps();
    size_t i = 0;

    // 处理对齐部分
    for (; i + 7 < len; i += 8) {__m256 vec = _mm256_load_ps(data + i);
        __m256 mask = _mm256_cmp_ps(vec, zero, _CMP_GT_OS);
        __m256 res = _mm256_blendv_ps(zero, vec, mask);
        _mm256_store_ps(data + i, res);
    }

    // 处理剩余元素
    for (; i < len; ++i) {data[i] = data[i] > 0 ? data[i] : 0;
    }
}

设计 Tensor 类时预分配内存池，显著减少 new/delete 开销：

class Tensor {
public:
    Tensor(int h, int w) : height(h), width(w) {data = memory_pool.allocate(h * w);
    }
    ~Tensor() { memory_pool.deallocate(data); }

private:
    static MemoryPool<float> memory_pool;
    float* data;
    int height, width;
};

完整实现一个识别手写数字的 CNN，核心步骤包括：

权重初始化 ：采用 He 初始化，适应 ReLU 特性

void he_init(float* weights, int size, int fan_in) {float stddev = sqrt(2.0f / fan_in);
    std::normal_distribution<float> dist(0, stddev);
    for (int i = 0; i < size; ++i) {weights[i] = dist(rng);
    }
}

并行计算 ：使用 OpenMP 加速卷积运算

#pragma omp parallel for collapse(2)
for (int oh = 0; oh < out_h; ++oh) {for (int ow = 0; ow < out_w; ++ow) {// 卷积计算...}
}

内存对齐 ：确保 AVX 指令高效运行

// 分配 64 字节对齐的内存
float* alloc_aligned(size_t size) {
    void* ptr;
    posix_memalign(&ptr, 64, size * sizeof(float));
    return static_cast<float*>(ptr);
}

测试环境：Intel i7-11800H, Ubuntu 20.04