C#实战：从零开始集成YOLOv11目标检测模型

1次阅读

共计 2345 个字符，预计需要花费 6 分钟才能阅读完成。

在.NET 生态中调用 Python 训练的 AI 模型时，开发者常遇到三类典型问题：

环境隔离问题：Python 和 C# 运行环境差异大，依赖库难以统一管理
数据格式转换：图像数据在 Python（NumPy）和 C#（Bitmap）间转换效率低下
性能损耗：跨语言调用带来的序列化 / 反序列化开销显著

通过对比两种主流方案，我们最终选择 ONNX Runtime：

ONNX Runtime 优势：
跨平台支持（Windows/Linux/ARM）
内置 CUDA/OpenVINO 等加速后端
内存占用比 TorchSharp 低 30%
微软官方维护，与.NET 生态兼容性好
TorchSharp 不足：
需要完整安装 PyTorch 运行时
线程安全问题较多
模型转换步骤复杂

// 转换为 RGB 通道顺序
Mat image = Cv2.ImRead("input.jpg", ImreadModes.Color);
Cv2.CvtColor(image, image, ColorConversionCodes.BGR2RGB);

// 归一化处理
Mat floatMat = new Mat();
image.ConvertTo(floatMat, MatType.CV_32FC3, 1.0/255.0);

// 调整尺寸为模型输入要求
Cv2.Resize(floatMat, floatMat, new Size(640, 640));

var options = new SessionOptions() {GraphOptimizationLevel = GraphOptimizationLevel.ORT_ENABLE_ALL};

// 启用 CUDA 加速（需安装对应 NuGet 包）options.AppendExecutionProvider_CUDA();

using var session = new InferenceSession("yolov11.onnx", options);

// 构建输入 Tensor
var inputs = new List<NamedOnnxValue> {NamedOnnxValue.CreateFromTensor("images", floatMat.ToTensor())
};

// 执行推理
try {using var results = session.Run(inputs);
    var output = results.First().AsTensor<float>();
    ProcessOutput(output);
} catch (OnnxRuntimeException ex) {
    // 处理推理异常
    logger.Error($"推理失败: {ex.Message}");
}

// 非极大值抑制 (NMS) 实现
List<DetectionResult> NMS(IEnumerable<DetectionResult> detections, float iouThreshold) {var results = new List<DetectionResult>();
    var ordered = detections.OrderByDescending(d => d.Confidence);

    foreach (var det in ordered) {
        bool keep = true;
        foreach (var result in results) {float iou = CalculateIOU(det.Box, result.Box);
            if (iou > iouThreshold) {
                keep = false;
                break;
            }
        }
        if (keep) results.Add(det);
    }
    return results;
}

启用 CUDA 加速 ：安装Microsoft.ML.OnnxRuntime.Gpu 包
内存池复用：

// 全局共享内存池
static MemoryPool memoryPool = new MemoryPool();

class MemoryPool {private ConcurrentQueue<float[]> pool = new();

    public float[] Rent(int size) {if (pool.TryDequeue(out var buffer) && buffer.Length >= size)
            return buffer;
        return new float[size];
    }

    public void Return(float[] buffer) => pool.Enqueue(buffer);
}

批处理优化：累积多帧图像后统一处理

输入尺寸问题 ：通过model.config 文件确认训练尺寸，必须严格匹配
通道顺序问题：
OpenCV 默认 BGR，ONNX 通常需要 RGB
建议在模型导出时固定通道顺序
多线程安全：
每个线程独立创建InferenceSession
共享 Session 需加锁

/// <summary>
/// 执行目标检测推理
/// </summary>
/// <param name="input"> 预处理后的图像张量 </param>
/// <returns> 检测结果列表 </returns>
public IList<DetectionResult> Detect(Tensor<float> input) {// 实现代码...}

动态调整置信度阈值的两种实现方案：