C# 结合 YOLO 实现 GPU 加速目标检测：从环境配置到性能优化

1次阅读

没有评论

共计 1754 个字符，预计需要花费 5 分钟才能阅读完成。

在计算机视觉领域，目标检测是一项基础且重要的任务。YOLO（You Only Look Once）因其速度快、精度高而广受欢迎。然而，在 C# 生态中实现 YOLO 目标检测时，开发者常遇到以下问题：

GPU 利用率低 ：C# 的传统图像处理库对 GPU 的支持有限，导致计算资源无法充分利用。
部署复杂 ：YOLO 模型通常基于 Python 训练，移植到 C# 环境需要额外的转换和适配工作。
性能瓶颈 ：缺乏优化技巧，推理速度难以满足实时性要求。

在 C# 中运行 YOLO 模型，主要有以下几种方案：

ONNX Runtime
优点：支持跨平台，对 ONNX 模型有良好的兼容性，GPU 加速效果显著。
缺点：需要将 YOLO 模型转换为 ONNX 格式，部分算子可能不支持。
TensorFlow.NET
优点：直接支持 TensorFlow 模型，无需格式转换。
缺点：对 GPU 的支持依赖 TensorFlow 原生库，部署较复杂。
ML.NET
优点：微软官方支持，集成方便。
缺点：对 YOLO 模型的支持有限，性能优化空间较小。

综合来看，ONNX Runtime 是平衡性能与易用性的最佳选择。

安装 CUDA 和 cuDNN
下载与显卡驱动匹配的 CUDA 版本（如 CUDA 11.7）。
安装对应版本的 cuDNN，并将库文件复制到 CUDA 的安装目录。
安装 ONNX Runtime GPU 版本
通过 NuGet 安装 Microsoft.ML.OnnxRuntime.Gpu 包。

YOLO 模型需要先转换为 ONNX 格式。可以使用 Ultralytics 提供的 export.py 脚本：

python export.py --weights yolov5s.pt --include onnx

在 C# 中加载模型：

using var session = new InferenceSession("yolov5s.onnx", SessionOptions.MakeSessionOptionWithCudaProvider(0));

输入预处理 ：将图像缩放到模型输入尺寸，并归一化到 [0, 1] 范围。
输出后处理 ：解析模型的输出张量，应用非极大值抑制（NMS）过滤冗余检测框。

以下是一个完整的 C# 示例，展示如何加载 YOLO 模型并进行推理：

using Microsoft.ML.OnnxRuntime;
using Microsoft.ML.OnnxRuntime.Tensors;

// 加载模型
var session = new InferenceSession("yolov5s.onnx", SessionOptions.MakeSessionOptionWithCudaProvider(0));

// 输入预处理
var input = new DenseTensor<float>(new[] {1, 3, 640, 640});
// 填充输入数据（示例）// 创建输入容器
var inputs = new List<NamedOnnxValue>
{NamedOnnxValue.CreateFromTensor("images", input)
};

// 推理
using var results = session.Run(inputs);

// 输出后处理
var output = results.First().AsTensor<float>();
// 解析输出并应用 NMS