C++实战YOLO算法：从环境搭建到模型推理的完整指南

1次阅读

共计 2743 个字符，预计需要花费 7 分钟才能阅读完成。

YOLO（You Only Look Once）算法因其实时性和高精度，在工业检测领域广受欢迎。与 Python 生态相比，C++ 部署具有以下优势：

性能优势：C++ 直接编译为机器码，无解释器开销
资源控制：精确管理内存和计算资源
部署便捷：生成单个可执行文件，无需依赖 Python 环境
系统集成：更容易嵌入现有 C ++ 工业系统

安装基础依赖

sudo apt-get install build-essential cmake git libgtk2.0-dev

安装 CUDA 和 cuDNN（以 CUDA 11.1 为例）

sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/3bf863cc.pub
sudo apt-get install cuda-toolkit-11-1 libcudnn8

编译 OpenCV（4.5.0+）

git clone --branch 4.5.5 https://github.com/opencv/opencv.git
mkdir build && cd build
cmake -D WITH_CUDA=ON -D OPENCV_DNN_CUDA=ON ..
make -j8
sudo make install

安装 Visual Studio 2019+ 和 CMake
下载预编译的 CUDA 和 cuDNN
使用 CMake-GUI 配置 OpenCV 时勾选 WITH_CUDA 和OPENCV_DNN_CUDA

cv::dnn::Net net = cv::dnn::readNetFromONNX("yolov5s.onnx");
net.setPreferableBackend(cv::dnn::DNN_BACKEND_CUDA);
net.setPreferableTarget(cv::dnn::DNN_TARGET_CUDA);

cv::Mat blob = cv::dnn::blobFromImage(
    image,                     // 输入图像
    1/255.0,                  // 归一化系数
    cv::Size(640, 640),       // 模型输入尺寸
    cv::Scalar(0,0,0),        // 均值减法
    true,                     // 交换 RB 通道
    false,                    // 不裁剪
    CV_32F                    // 输出类型
);

struct Detection {
    int class_id;
    float confidence;
    cv::Rect box;
};

std::vector<Detection> postprocess(
    const cv::Mat& output, 
    float conf_thresh=0.5, 
    float iou_thresh=0.4
) {
    std::vector<Detection> detections;

    // 解析模型输出（YOLOv5 格式示例）const float* data = (float*)output.data;
    for (int i = 0; i < output.rows; ++i) {float confidence = data[4];
        if (confidence > conf_thresh) {
            // 解析类别和边界框...
            detections.emplace_back(class_id, confidence, box);
        }
        data += output.cols;
    }

    // NMS 处理
    std::vector<int> indices;
    cv::dnn::NMSBoxes(boxes, confidences, conf_thresh, iou_thresh, indices);

    // 返回过滤后的结果
    std::vector<Detection> final_detections;
    for (int idx : indices) {final_detections.push_back(detections[idx]);
    }
    return final_detections;
}

cmake_minimum_required(VERSION 3.12)
project(YOLO_CPP)

find_package(OpenCV REQUIRED)

add_executable(yolo_demo
    src/main.cpp
    src/utils.cpp
)

target_link_libraries(yolo_demo PRIVATE
    ${OpenCV_LIBS}
)

# CUDA 支持
if(CUDA_FOUND)
    target_compile_options(yolo_demo PRIVATE
        $<$<COMPILE_LANGUAGE:CUDA>:--expt-relaxed-constexpr>
    )
endif()

class NetWrapper {
public:
    NetWrapper(const std::string& model_path) {net = cv::dnn::readNet(model_path);
        if (net.empty()) {throw std::runtime_error("Failed to load model");
        }
    }

    ~NetWrapper() {// OpenCV Net 对象会自动释放}

private:
    cv::dnn::Net net;
};

模型类型	推理精度	FPS (RTX 3060)	显存占用
FP32	高	45	2.1GB
FP16	中	68	1.4GB
INT8	低	92	0.9GB

void parallel_preprocess(
    const std::vector<cv::Mat>& images,
    std::vector<cv::Mat>& blobs,
    int num_threads=4
) {blobs.resize(images.size());

    #pragma omp parallel for num_threads(num_threads)
    for (size_t i = 0; i < images.size(); ++i) {blobs[i] = cv::dnn::blobFromImage(images[i], ...);
    }
}