点击蓝字 关注我们

KINDERGARTEN

1. 简介

   DeploySharp 是一个专为 C# 开发者设计的跨平台模型部署框架，提供从模型加载、配置管理到推理执行的端到端解决方案。其核心架构采用模块化命名空间设计，显著降低了 C# 生态中深度学习模型的集成复杂度，

1. 架构设计与功能分层

  • 根命名空间 DeploySharp 作为统一入口，集成模型加载、推理执行等核心功能

  • 通过子命名空间（如 DeploySharp.Engine）实现模块化分层设计

  • 关键类采用泛型设计，支持图像处理/分类/检测等多任务标准数据交互

2. 多引擎支持与扩展能力

  • 原生支持 OpenVINO（通过OpenVinoSharp）、ONNX Runtime 推理引擎

  • 支持 YOLOv5-v12全系列模型、Anomaly及其他主流模型部署

3. 跨平台运行时支持

  • 兼容 .NET Framework 4.8 及 .NET 6/7/8/9

  • 深度集成 .NET 运行时生态（NuGet 包管理）

4. 高性能推理能力

  • 异步推理支持（System.Threading.Tasks）

  • 支持单张/批量图片推理模式

  • 丰富的预处理（ImageSharp/OpenCvSharp）和后处理操作

5. 开发者支持体系

  • 中英双语代码注释与技术文档

  • log4net 分级日志系统（错误/警告/调试）

  • 提供可视化结果展示方案

  • 提供完善的示例代码库

    该项目开源遵循 Apache License 2.0 协议，开发者可通过 QQ 群、微信公众号等渠道获取支持。未来版本计划扩展 TensorRT 支持并优化现有引擎的异构计算能力。

    项目链接：

https://github.com/guojin-yan/DeploySharp.git

2. 模型支持列表

Model Name

Model Type

OpenVINO

ONNX Runtime

TensorRT
YOLOv5

Detection

✅

✅

ing...
YOLOv5

Segmentation

✅

✅

ing...
YOLOv6

Detection

✅

✅

ing...
YOLOv7

Detection

✅

✅

ing...
YOLOv8

Detection

✅

✅

ing...
YOLOv8

Segmentation

✅

✅

ing...
YOLOv8

Pose

✅

✅

ing...
YOLOv8

Oriented Bounding Boxes

✅

✅

ing...
YOLOv9

Detection

✅

✅

ing...
YOLOv9

Segmentation

✅

✅

ing...
YOLOv10

Detection

✅

✅

ing...
YOLOv11

Detection

✅

✅

ing...
YOLOv11

Segmentation

✅

✅

ing...
YOLOv11

Pose

✅

✅

ing...
YOLOv11

Oriented Bounding Boxes

✅

✅

ing...
YOLOv12

Detection

✅

✅

ing...
Anomalib

Segmentation

✅

✅

ing...

3. NuGet Package

3.1 Core Managed Libraries

Package

Description

Link
JYPPX.DeploySharp

DeploySharp API core libraries

https://www.nuget.org/packages/JYPPX.DeploySharp/

3.2 Native Runtime Libraries

Package

Description

Link
JYPPX.DeploySharp.ImageSharp

An assembly that uses ImageSharp as an image processing tool.

https://www.nuget.org/packages/JYPPX.DeploySharp.ImageSharp/
JYPPX.DeploySharp.OpenCvSharp

An assembly that uses OpenCvSharp as an image processing tool.

https://www.nuget.org/packages/JYPPX.DeploySharp.OpenCvSharp/

4. 如何安装

4.1 获取方式

大家可以直接在NuGet Gallery官网上进行查找使用：

image-20251002125042083

或者在Visual Studio的NuGet程序包中进行查找安装：

image-20251002125313962

4.2 NuGet Package组合使用方式

DeploySharp包含了OpenCvSharp、ImageSharp等图像处理方式，同时支持OpenVINO、ONNX Runtime模型部署引擎，因此用户可以根据自己需求自行组合，并安装对应的NuGet Package即可开箱使用。以下总结了常用的一些使用情况的NuGet Package安装场景：

  • OpenVINO推理+OpenCvSharp图像处理

JYPPX.DeploySharp
JYPPX.DeploySharp.OpenCvSharp

OpenVINO.runtime.win
OpenCvSharp4.runtime.win

  • OpenVINO推理+ImageSharp图像处理

JYPPX.DeploySharp
JYPPX.DeploySharp.ImageSharp

OpenVINO.runtime.win

  • ONNX Runtime推理+OpenCvSharp图像处理

JYPPX.DeploySharp
JYPPX.DeploySharp.OpenCvSharp

OpenCvSharp4.runtime.win

  • ONNX Runtime推理+ImageSharp图像处理

JYPPX.DeploySharp
JYPPX.DeploySharp.OpenCvSharp

  • ONNX Runtime(OpenVINO加速)推理+ImageSharp图像处理

JYPPX.DeploySharp
JYPPX.DeploySharp.ImageSharp

Intel.ML.OnnxRuntime.OpenVino

  • ONNX Runtime(DML加速)推理+ImageSharp图像处理

JYPPX.DeploySharp
JYPPX.DeploySharp.ImageSharp

Microsoft.ML.OnnxRuntime.DirectML

  • ONNX Runtime(CUDA加速)推理+ImageSharp图像处理

JYPPX.DeploySharp
JYPPX.DeploySharp.ImageSharp

Microsoft.ML.OnnxRuntime.DirectML

     由于使用CUDA对ONNX Runtime加速受GPU设备型号以及软件版本影响，因此需要按照ONNX Runtime官方提供的版本对应关系进行下载使用，其中ONNX Runtime与CUDA、cuDNN对应关系请参考一下以下链接：

https://runtime.onnx.org.cn/docs/execution-providers/CUDA-ExecutionProvider.html#requirements

     以上所列出的使用方式均可以通过NuGet Package一键安装，同样的，ONNX Runtime还支持更多加速方式，但需要用户自己进行代码构建，其构建流程与方式，参考官方教程即可，链接为：

https://runtime.onnx.org.cn/docs/execution-providers/

5. 开始使用

     如果你不知道如何使用，通过下面代码简单了解使用方法。

5.1 ImageSharp图像处理

using DeploySharp.Data;
using DeploySharp.Engine;
using DeploySharp.Model;
using SixLabors.ImageSharp;
using SixLabors.ImageSharp.PixelFormats;
using System;

namespaceDeploySharp.ImageSharp.Demo
{
    publicclassYOLOv5DetDemo
    {
        public static void Run()
        {
            // 模型和测试图片可以前往QQ群(945057948)下载
            // 将下面的模型路径替换为你自己的模型路径
            string modelPath = @"E:\Model\Yolo\yolov5s.onnx";
            // 将下面的图片路径替换为你自己的图片路径
            string imagePath = @"E:\Data\image\bus.jpg";
            Yolov5DetConfig config = new Yolov5DetConfig(modelPath);
            //config.SetTargetInferenceBackend(InferenceBackend.OnnxRuntime);
            Yolov5DetModel model = new Yolov5DetModel(config);
            var img = Image.Load(imagePath);
            var result = model.Predict(img);
            model.ModelInferenceProfiler.PrintAllRecords();
            var resultImg = Visualize.DrawDetResult(result, img as Image<Rgb24>, new VisualizeOptions(1.0f));
            resultImg.Save(@$"./result_{ModelType.YOLOv5Det.ToString()}.jpg");
        }
    }
}

5.2 OpenCvSharp图像处理

using OpenCvSharp;
using System.Diagnostics;
using DeploySharp.Model;
using DeploySharp.Data;
using DeploySharp.Engine;
using DeploySharp;
using System.Net.Http.Headers;

namespaceDeploySharp.OpenCvSharp.Demo
{
    publicclassYOLOv5DetDemo
    {
        public static void Run()
        {
            // 模型和测试图片可以前往QQ群(945057948)下载
            // 将下面的模型路径替换为你自己的模型路径
            string modelPath = @"E:\Model\Yolo\yolov5s.onnx";
            // 将下面的图片路径替换为你自己的图片路径
            string imagePath = @"E:\Data\image\bus.jpg";
            Yolov5DetConfig config = new Yolov5DetConfig(modelPath);
            config.SetTargetInferenceBackend(InferenceBackend.OnnxRuntime);
            Yolov5DetModel model = new Yolov5DetModel(config);
            Mat img = Cv2.ImRead(imagePath);
            var result = model.Predict(img);
            model.ModelInferenceProfiler.PrintAllRecords();
            var resultImg = Visualize.DrawDetResult(result, img, new VisualizeOptions(1.0f));
            Cv2.ImShow("image", resultImg);
            Cv2.WaitKey();
        }
    }
}

6.应用案例

     获取更多应用案例请参考：

案例类型

框架

链接

桌面应用

.NET Framework 4.8

https://github.com/guojin-yan/DeploySharp/tree/DeploySharpV1.0/applications/.NET%20Framework%204.8/DeploySharp.ImageSharp-ApplicationPlatform

桌面应用

.NET 6.0

https://github.com/guojin-yan/DeploySharp/tree/DeploySharpV1.0/applications/.NET%206.0/DeploySharp.OpenCvSharp-ApplicationPlatform

控制台应用

.NET Framework 4.8、.NET 6.0-9.0

https://github.com/guojin-yan/DeploySharp/tree/DeploySharpV1.0/samples
image-20251002124851175

     后续会推出更多的应用案例使用介绍，敬请关注。

7. API文档

     如果想了解更多信息，可以参阅：DeploySharp API Documented

image-20251002124938166

8. 贡献

     如果您对DeploySharp在C#使用感兴趣，有兴趣对开源社区做出自己的贡献，欢迎加入我们，一起开发DeploySharp。

     如果你对该项目有一些想法或改进思路，欢迎联系我们，指导下我们的工作。

9.  许可证书

     本项目的发布受Apache 2.0 license许可认证。

    最后如果各位开发者在使用中有任何问题，欢迎大家与我联系。

image-20250224211044113

往期回顾

1

使用OpenVINO™.CSharp.API在C#平台快速部署PP-OCRv5模型识别多场景文本

2

在英特尔® 酷睿™ Ultra AI PC 上部署多种图像生成模型快速实现文生图功能

3

开发者实战｜在英特尔® 酷睿™ Ultra AI PC上用NPU部署YOLOv11与YOLOv12

4

OpenVINO™ C# API 最新升级：支持 OpenVINO™ Runtime 2024.3和更多得C#框架

# 开源 # c# # 深度学习 # 开发语言 # 人工智能
Logo
九章云极普惠算力

更多推荐

fastapi-code-generator完全指南：从OpenAPI规范快速构建高性能API应用

fastapi-code-generator是一款强大的工具，能够从OpenAPI规范文件快速创建FastAPI应用，帮助开发者高效构建高性能的API服务。通过自动化代码生成过程，它大大减少了手动编写重复代码的工作量，让开发者可以更专注于业务逻辑的实现。## 为什么选择fastapi-code-generator？在现代API开发中，遵循OpenAPI规范已经成为行业标准。然而，手动根据规

avatar 九章云极普惠算力

终极指南：Conformer模型如何重新定义语音识别架构的边界

Conformer模型作为语音识别领域的革命性架构，融合了Transformer的自注意力机制与CNN的局部特征提取能力，在开源语音处理工具包ESPnet中得到了广泛应用。本文将深入解析Conformer模型的核心原理、架构优势及其在ESPnet中的实现方式，帮助开发者快速掌握这一先进技术。## Conformer模型：Transformer与CNN的完美融合Conformer模型创新性地

avatar 九章云极普惠算力

如何用智能手机打造你的专属OpenBot：低成本智能机器人完整指南

OpenBot是一个革命性的开源项目，它让你能够将普通智能手机转变为功能强大的智能机器人。只需简单的组装和配置，你就能拥有一个具备自主导航、物体识别和远程控制功能的机器人，成本不到100美元。本指南将带你一步步完成从零件准备到机器人运行的全过程，即使你是毫无经验的新手也能轻松上手。## 🤖 OpenBot：重新定义智能手机的可能性想象一下，你的旧手机不仅能拍照打电话，还能变成一个会移动、

avatar 九章云极普惠算力