C# 与 YOLOv8 目标检测实战：从模型部署到性能优化全解析

1次阅读

没有评论

共计 2142 个字符，预计需要花费 6 分钟才能阅读完成。

在传统目标检测方案中，常见的是使用 OpenCV 结合 DNN 模块进行推理。这种方式虽然简单直接，但存在几个明显的问题：

混合开发维护成本高：Python 用于模型训练，C# 用于应用开发，导致需要维护两套代码
部署复杂性：原生 TensorRT 部署需要针对不同硬件进行优化，增加了部署难度
性能瓶颈：传统方案在多线程处理和内存管理上存在不足，难以满足高吞吐量需求

对比 ONNX Runtime 和 DirectML 两种方案：

ONNX Runtime 优势：
跨平台支持（Windows/Linux/macOS）
良好的版本兼容性
支持多种执行提供程序（CPU/GPU）
社区支持完善
DirectML 劣势：
主要针对 Windows 平台
版本更新依赖 Windows 更新

综合考虑，选择 ONNX Runtime 作为推理引擎，既保证了性能又兼顾了部署灵活性。

使用 Ultralytics 导出时关键参数配置：

model.export(format='onnx', dynamic=True, simplify=True)

dynamic=True 允许输入尺寸可变
simplify=True 自动优化模型结构

using Microsoft.ML.OnnxRuntime;
using Microsoft.ML.OnnxRuntime.Tensors;

try
{
    var options = new SessionOptions
    {GraphOptimizationLevel = GraphOptimizationLevel.ORT_ENABLE_ALL};

    // 使用 GPU 加速
    options.AppendExecutionProvider_CUDA();

    var session = new InferenceSession("yolov8n.onnx", options);

    // 获取输入输出信息
    var inputMeta = session.InputMetadata;
    var outputMeta = session.OutputMetadata;
}
catch(Exception ex)
{Console.WriteLine($"模型加载失败: {ex.Message}");
}

关键优化点：

使用 Parallel.For 并行处理多张图片
预分配内存池减少 GC 压力
采用张量视图 (TensorView) 避免数据拷贝

// 预处理示例
var inputTensor = new DenseTensor<float>(new[] {batchSize, 3, height, width});

Parallel.For(0, batchSize, i =>
{
    // 使用内存视图直接操作数据
    var span = inputTensor.Buffer.Span;
    // ... 图像处理逻辑
});

使用 BenchmarkDotNet 进行性能评估：

[SimpleJob(RuntimeMoniker.Net60)]
[MemoryDiagnoser]
public class InferenceBenchmark
{[Params(1, 4, 8)]
    public int BatchSize {get; set;}

    [Benchmark]
    public void RunInference()
    {// 测试代码}
}

典型测试结果：

BatchSize	平均耗时(ms)	内存分配(MB)
1	15.2	2.1
4	28.7	5.8
8	42.3	10.4

使用 ArrayPool<T> 共享数组
对大尺寸图像使用 NativeMemory 分配非托管内存
设置 GCSettings.LatencyMode = GCLatencyMode.SustainedLowLatency

维度验证：

var inputName = session.InputNames[0];
var inputShape = session.InputMetadata[inputName].Dimensions;
// 应该输出类似 [1, 3, -1, -1] 的动态形状

通道顺序处理：

OpenCV 默认 BGR，ONNX 通常期望 RGB。预处理时需要转换：

Cv2.CvtColor(src, dst, ColorConversionCodes.BGR2RGB);

多线程 Session 管理：
每个线程使用独立 Session 实例
或使用 ConcurrentDictionary 管理 Session 池

关键实践：

使用 C# 9.0 的 record 类型封装检测结果
为公共方法添加 XML 注释
算法复杂度标注示例：

/// <summary>
/// 非极大值抑制算法
/// 时间复杂度: O(n^2)
/// </summary>
public static List<Detection> NMS(List<Detection> detections, float iouThreshold)
{// 实现代码}

通过 ONNX Runtime 部署 YOLOv8 模型，我们实现了：