C#集成YOLOv11目标检测实战：从模型加载到性能优化

1次阅读

没有评论

共计 3361 个字符，预计需要花费 9 分钟才能阅读完成。

在工业质检等场景中，C# 开发者调用 YOLOv11 模型时通常面临三大挑战：

跨语言交互成本 ：Python 训练模型与 C# 生产环境间的接口开发复杂，需处理进程通信或 RPC 调用
GPU 内存管理难题 ：原生 Python 推理易出现显存泄漏，且 C# 缺乏直接管理 CUDA 内存的机制
后处理性能瓶颈 ：目标检测的 NMS（非极大抑制）操作在纯 C# 实现时效率显著低于 Python 端

对比两种主流部署方式：

TorchScript：
优点：保留 PyTorch 完整特性链
缺点：需绑定特定 PyTorch 版本，移动端支持弱
ONNX Runtime：
版本兼容性强（支持 ONNX opset 7-15）
支持 CPU/GPU/DSP 多后端
提供 C# 原生 API（Microsoft.ML.OnnxRuntime 包）

推荐使用 ONNX Runtime 的三大理由：

避免 Python 环境依赖
直接内存共享（Zero-copy）提升数据传递效率
内置算子优化（如融合 Conv+BN 层）

using Microsoft.ML.OnnxRuntime;
using Microsoft.ML.OnnxRuntime.Tensors;

public class YoloV11Processor : IDisposable
{
    private InferenceSession _session;

    public YoloV11Processor(string modelPath)
    {
        var options = new SessionOptions
        {
            GraphOptimizationLevel = GraphOptimizationLevel.ORT_ENABLE_ALL,
            EnableMemoryPattern = true
        };

        // GPU 加速配置（可选）options.AppendExecutionProvider_CUDA();
        _session = new InferenceSession(modelPath, options);
    }
}

图像归一化 ：

float[] NormalizeImage(Mat image)
{var tensor = new DenseTensor<float>(new[] {1, 3, image.Height, image.Width});
    // 转换为 CHW 格式并归一化到 [0,1]
    Cv2.CvtColor(image, image, ColorConversionCodes.BGR2RGB);
    image.ConvertTo(image, MatType.CV_32FC3, 1.0/255);

    // 内存拷贝优化：使用 Span 避免额外分配
    var span = tensor.Buffer.Span;
    for (int c = 0; c < 3; c++)
        for (int h = 0; h < image.Height; h++)
            for (int w = 0; w < image.Width; w++)
                span[c * image.Width * image.Height + h * image.Width + w] = image.At<Vec3f>(h, w)[c];

    return span.ToArray();}

维度扩展 ：添加 batch 维度（1x3xHxW）

public List<DetectionResult> ParseOutputs(IDisposableReadOnlyCollection<DisposableNamedOnnxValue> outputs, 
    float confThreshold = 0.5f, float iouThreshold = 0.4f)
{var results = new List<DetectionResult>();
    var output = outputs.First().AsTensor<float>();

    // 输出格式解析（YOLOv11 特有结构）for (int i = 0; i < output.Dimensions[1]; i++)
    {float confidence = output[0, i, 4];
        if (confidence < confThreshold) continue;

        // 解码边界框（xywh 格式）var bbox = new float[4];
        bbox[0] = output[0, i, 0] - output[0, i, 2] / 2; // x1
        bbox[1] = output[0, i, 1] - output[0, i, 3] / 2; // y1
        bbox[2] = output[0, i, 0] + output[0, i, 2] / 2; // x2
        bbox[3] = output[0, i, 1] + output[0, i, 3] / 2; // y2

        // 非极大抑制（NMS）优化实现
        bool keep = true;
        for (int j = 0; j < results.Count; j++)
        {var existing = results[j];
            float iou = CalculateIoU(bbox, existing.BBox);
            if (iou > iouThreshold) 
            {
                keep = false;
                break;
            }
        }

        if (keep) results.Add(new DetectionResult(bbox, confidence));
    }
    return results.OrderByDescending(r => r.Confidence).ToList();}

使用 BenchmarkDotNet 测试不同后端性能（输入尺寸 640×640）：

后端	平均耗时 (ms)	内存分配 (MB)
CPU(Intel)	78.2	42.1
CUDA 11.4	23.6	38.7
DirectML	65.8	40.2

对于 4K 以上图像，建议采用滑动窗口分块：

public List<DetectionResult> ProcessLargeImage(Mat image, int tileSize = 1024, int overlap = 128)
{var results = new List<DetectionResult>();

    for (int y = 0; y < image.Height; y += tileSize - overlap)
    for (int x = 0; x < image.Width; x += tileSize - overlap)
    {
        // 边界检查
        int width = Math.Min(tileSize, image.Width - x);
        int height = Math.Min(tileSize, image.Height - y);

        using var tile = new Mat(image, new Rect(x, y, width, height));
        var tileResults = Process(tile);

        // 坐标转换回原图
        foreach (var r in tileResults)
        {r.BBox[0] += x; r.BBox[1] += y;
            r.BBox[2] += x; r.BBox[3] += y;
        }

        results.AddRange(tileResults);
    }

    return NMS(results); // 全局去重
}

opset 版本 ：建议使用 opset12+ 以确保支持最新算子

动态维度 ：导出时需指定动态轴：

torch.onnx.export(
    model,
    dummy_input,
    "yolov11.onnx",
    dynamic_axes={"images": {0: "batch"}, "output": {0: "batch"}}
)

// 每个线程独立 Session
[ThreadStatic] 
private static InferenceSession _threadSession;

// 或使用 Session 池
private static readonly ConcurrentQueue<InferenceSession> _sessionPool = new();