从零手搓卷积神经网络：C++实现与性能优化实战

1次阅读

共计 2385 个字符，预计需要花费 6 分钟才能阅读完成。

卷积神经网络（CNN）已成为计算机视觉领域的基石，从图像分类到目标检测都依赖其强大的特征提取能力。然而直接调用 TensorFlow/PyTorch 等框架容易让开发者陷入 ” 调参工程师 ” 的困境，无法真正理解底层数学原理和计算过程。本文将通过纯 C ++ 实现揭示 CNN 的黑箱奥秘，特别适合想夯实基础的中级开发者。

当决定手搓 CNN 时，第一个问题就是：该使用 Eigen 等现成库还是完全原生实现？虽然 Eigen 能快速实现矩阵运算，但会掩盖以下关键教学价值：

内存布局对 Cache 性能的影响（行优先 vs 列优先）
卷积运算中边界处理的实现细节
SIMD 指令集的手动优化机会

考虑到我们的目标是深入理解原理，最终选择完全原生实现——就像学数学不该依赖计算器一样。

卷积层的核心是滑窗计算，这里给出带边界处理的典型实现（假设使用零填充）：

/**
 * @brief 执行 2D 卷积运算
 * @param input 输入矩阵（CHW 格式）* @param kernel 卷积核（KCHW 格式）* @param padding 零填充像素数
 */
Matrix conv2d(const Matrix& input, const Matrix& kernel, int padding) {
  // 计算输出维度
  int out_h = (input.rows + 2*padding - kernel.rows) + 1;
  int out_w = (input.cols + 2*padding - kernel.cols) + 1;

  Matrix output(out_h, out_w);

  // 滑窗计算
  for(int i = 0; i < output.rows; ++i) {for(int j = 0; j < output.cols; ++j) {
      float sum = 0;

      // 核内计算
      for(int ki = 0; ki < kernel.rows; ++ki) {for(int kj = 0; kj < kernel.cols; ++kj) {
          int x = i + ki - padding;
          int y = j + kj - padding;

          // 边界检查
          if(x >= 0 && x < input.rows && y >= 0 && y < input.cols) {sum += input(x,y) * kernel(ki,kj);
          }
        }
      }

      output(i,j) = sum;
    }
  }
  return output;
}

激活函数虽简单，但通过 SIMD 指令可获得 4 - 8 倍加速。以 AVX2 为例：

#include <immintrin.h>

void relu_avx2(float* data, size_t len) {__m256 zero = _mm256_setzero_ps();
  size_t i = 0;

  // 处理 AVX 能对齐的部分
  for(; i + 8 <= len; i += 8) {__m256 vec = _mm256_loadu_ps(data + i);
    __m256 mask = _mm256_cmp_ps(vec, zero, _CMP_GT_OS);
    vec = _mm256_and_ps(vec, mask);
    _mm256_storeu_ps(data + i, vec);
  }

  // 处理剩余部分
  for(; i < len; ++i) {data[i] = data[i] > 0 ? data[i] : 0;
  }
}

池化层非常适合并行化，这里采用生产者 - 消费者模式：

void max_pooling_parallel(const Matrix& input, Matrix& output) {ThreadPool pool(4); // 4 个工作线程
  std::vector<std::future<void>> futures;

  // 按行分块并行处理
  int rows_per_thread = output.rows / pool.size();

  for(int t = 0; t < pool.size(); ++t) {futures.emplace_back(pool.enqueue([&, t] {
      int start_row = t * rows_per_thread;
      int end_row = (t == pool.size()-1) ? output.rows : start_row + rows_per_thread;

      for(int i = start_row; i < end_row; ++i) {for(int j = 0; j < output.cols; ++j) {
          // 2x2 最大池化实现
          float max_val = std::max({input(2*i, 2*j), input(2*i+1, 2*j),
            input(2*i, 2*j+1), input(2*i+1, 2*j+1)
          });
          output(i,j) = max_val;
        }
      }
    }));
  }

  // 等待所有任务完成
  for(auto& f : futures) f.wait();}

通过调整内存访问模式提升性能：