C#调用YOLOv8目标检测实战：从模型加载到性能优化

1次阅读

没有评论

共计 2620 个字符，预计需要花费 7 分钟才能阅读完成。

在工业质检或安防监控场景中，我们经常遇到需要将 YOLOv8 模型集成到 C# 应用的需求。传统 Python 方案面临三个核心问题：

进程通信开销 ：通过 Python.NET 或进程调用方式，单次推理延迟增加 30-200ms
环境依赖复杂 ：生产服务器需部署 Python 环境、CUDA 库等，增加运维成本
难以利用.NET 生态 ：无法直接使用 C# 的并发处理、GUI 框架等特性

对比当前主流方案：

ONNX Runtime
优势：跨平台支持好、推理性能接近原生框架、内存管理精细
不足：模型转换需要额外步骤
TorchSharp
优势：直接加载 PyTorch 模型
不足：GPU 支持不稳定、API 变动频繁
ML.NET
优势：与.NET 深度集成
不足：计算机视觉支持有限

实测数据：在 RTX 3060 上，ONNX Runtime 的吞吐量达到 TorchSharp 的 1.7 倍，因此推荐作为首选方案。

使用 Ultralytics 导出 ONNX 模型时需特别注意：

yolo export model=yolov8n.pt format=onnx dynamic=True imgsz=640

关键参数说明：

dynamic=True：允许可变输入尺寸
imgsz=640：指定基准分辨率

务必检查导出日志是否包含以下关键信息：

Exporting ONNX model with dynamic axes 
Input shapes: (1,3,640,640)
Output shapes: (1,84,8400)

完整示例代码（.NET 6）：

// 初始化推理会话
using var session = new InferenceSession("yolov8n.onnx");

// 图像预处理
var inputTensor = new DenseTensor<float>(new[] {1, 3, 640, 640});
using var image = Cv2.ImRead("test.jpg");
Cv2.CvtColor(image, image, ColorConversionCodes.BGR2RGB);
Cv2.Resize(image, image, new Size(640, 640));

// 归一化并填充张量
for (int y = 0; y < 640; y++)
{for (int x = 0; x < 640; x++)
    {var pixel = image.Get<Vec3b>(y, x);
        inputTensor[0, 0, y, x] = pixel.Item0 / 255f;  // R
        inputTensor[0, 1, y, x] = pixel.Item1 / 255f;  // G
        inputTensor[0, 2, y, x] = pixel.Item2 / 255f;  // B
    }
}

// 执行推理
using var outputs = session.Run(new[] 
{NamedOnnxValue.CreateFromTensor("images", inputTensor)
});

// 后处理（简化版 NMS）var results = outputs[0].AsTensor<float>();
var boxes = ParseResults(results);

// 使用 MemoryPool 优化
using var pool = MemoryPool<float>.Shared;
var buffer = pool.Rent(batchSize * 3 * 640 * 640);

// 批量填充逻辑
Parallel.For(0, batchSize, i => 
{ProcessSingleImage(buffer.Memory.Slice(i * singleImageSize));
});

测试数据（640×640 输入）：

设备	平均延迟	吞吐量
i7-11800H	42ms	23fps
RTX 3060	8ms	120fps

启用 GPU 需要额外配置：

var options = SessionOptions.MakeSessionOptionWithCudaProvider(0);

解决 Linux 下库依赖问题：

NativeLibrary.SetDllImportResolver(typeof(OnnxRuntime).Assembly, (name, assembly, path) =>
{
    return name == "onnxruntime" 
        ? NativeLibrary.Load("libonnxruntime.so", assembly, path)
        : IntPtr.Zero;
});

维度校验

var input = session.InputMetadata.First();
Debug.Assert(input.Value.Dimensions.SequenceEqual(new[] {1, 3, 640, 640}));

色域问题

// OpenCV 使用 BGR，System.Drawing 使用 RGB
var bitmap = new Bitmap(640, 640);
using var g = Graphics.FromImage(bitmap);
g.DrawImage(...);  // 需要额外的色彩转换

内存固定

var handle = inputTensor.Buffer.Pin();
//...
handle.Dispose();

对于高级场景可考虑：

动态模型更新

// 使用 FileSystemWatcher 监视模型目录
watcher.Changed += (s, e) => 
{Interlocked.Exchange(ref _model, LoadNewModel(e.FullPath));
};

分布式推理

// 结合 ASP.NET Core 实现 HTTP 服务
app.MapPost("/detect", async (IFormFile file) => 
{await using var stream = file.OpenReadStream();
    return await _detector.RunAsync(stream);
});

通过上述方案，我们在某 PCB 缺陷检测项目中实现了 98% 的 Python 版本准确率，同时吞吐量提升 3 倍。关键是将预处理、推理、后处理三个阶段充分并行化，并利用.NET 的 ValueTask 减少异步开销。

完整示例代码已开源在 GitHub（示例仓库地址），包含 WPF 实时演示和性能分析工具。在实际部署时，建议使用 BenchmarkDotNet 进行压力测试，特别注意显存泄漏问题。

正文完