C# ONNX模式识别实战：从零构建高效AI推理模型

1次阅读

共计 1962 个字符，预计需要花费 5 分钟才能阅读完成。

ONNX（Open Neural Network Exchange）是 AI 模型的通用格式，能实现框架间无缝迁移。对于 C# 开发者而言，它解决了 Python 训练模型与.NET 生产环境间的鸿沟。通过 ONNX Runtime，我们可在跨平台场景下获得接近原生的推理性能。

TensorFlow 转换：
优势：tf2onnx工具链成熟，对 Keras 模型支持极佳
劣势：动态计算图模型可能需手动调整 opset 版本
PyTorch 转换：
优势：原生 torch.onnx.export 一键转换
提示：注意训练模式与推理模式的切换（model.eval()）

C# 生态对两者转换后的模型兼容性一致，但推荐使用 PyTorch 转换以获得更清晰的节点拓扑。

# NuGet 包管理控制台
Install-Package Microsoft.ML.OnnxRuntime -Version 1.15.0
Install-Package Microsoft.ML.OnnxRuntime.Gpu # 如需 GPU 支持

// 异常处理要点：模型路径校验 + 元数据检查
try 
{var session = new InferenceSession("model.onnx");
    var inputMeta = session.InputMetadata;
    var inputName = inputMeta.Keys.First();

    // 维度验证示例
    var expectedShape = inputMeta[inputName].Dimensions;
    if(expectedShape[1] != 3) 
        throw new ArgumentException("模型需要 3 通道输入");
}
catch (OnnxRuntimeException ex)
{
    // 典型错误：opset 版本不匹配 / 缺少 CUDA 依赖
    Console.WriteLine($"模型加载失败: {ex.Message}");
}

// 图像预处理（以 ResNet 为例）float[] NormalizeImage(Bitmap image)
{var tensor = new float[3 * 224 * 224];
    // 此处实现归一化与通道分离逻辑
    return tensor;
}

// 构建输入张量
var inputTensor = new DenseTensor<float>(NormalizeImage(inputImage),
    new[] { 1, 3, 224, 224} // NCHW 格式
);

// 执行推理
using var results = session.Run(new[] 
{NamedOnnxValue.CreateFromTensor(inputName, inputTensor)
});

// 后处理（获取分类结果）var outputTensor = results.First().AsTensor<float>();
var predictedClass = outputTensor.ArgMax();

var options = new SessionOptions()
{
    GraphOptimizationLevel = GraphOptimizationLevel.ORT_ENABLE_ALL,
    ExecutionMode = ExecutionMode.ORT_PARALLEL,
    IntraOpNumThreads = Environment.ProcessorCount / 2
};

// GPU 加速（需单独安装 CUDA/cuDNN）options.AppendExecutionProvider_CUDA();

实测数据（RTX 3060 对比 i7-12700K）：
– 图像分类（Batch=16）：
– CPU：78ms/ 张
– GPU：11ms/ 张