window通过nuget安装onnxruntime-gpu（c++版）

离线安装gpu版onnxruntime

Mr.Q

4777人浏览 · 2022-02-11 13:55:38

Mr.Q · 2022-02-11 13:55:38 发布

1.下载

2. 安装

配置目标：cuda10.2， cudnn8.0.3，onnxruntime-gpu1.6.0，opencv4.2

其他版本对应关系：

CUDA - onnxruntimeInstructions to execute ONNX Runtime applications with CUDAhttps://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html

如果cudnn8.3.2会报错：

Could not load library cudnn_cnn_infer64_8.dll.Error code 126 Please make sure cudnn_cnn_infer64_8.dll

预备安装cuda10.2

CUDA Toolkit 11.6 Downloads | NVIDIA Developerhttps://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local

安装cudnn8.0.3

cuDNN Archive | NVIDIA DeveloperNVIDIA cuDNN is a GPU-accelerated library of primitives for deep neural networks.https://developer.nvidia.com/rdp/cudnn-archive

这部分不赘述，可参考windows如何安装并切换不同版本的cuda，更新cuda版本_一千零一夜的博客-CSDN博客_cuda更新不同论文用的cuda版本经常不一样，如何在不同的cuda版本之间自由切换。重新配置配置太麻烦了，所以需要同时安装多个cuda，但window安装一个版本后，安装另一个过程中会自动删除前面版本。下面是最简单的切换方式1. 查看当前使用的cuda版本，之前安装好的，没有安装的话，就先安装好一个版本，我的是cuda9.02. 开始安装另一个版本，我的是cuda7.5，安装方法和cuda...https://blog.csdn.net/jizhidexiaoming/article/details/81324733?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522164489389416781685320223%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=164489389416781685320223&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~rank_v31_ecpm-1-81324733.nonecase&utm_term=window%E5%AE%89%E8%A3%85cuda&spm=1018.2226.3001.4450

1.下载

NuGet Gallery | Microsoft.ML.OnnxRuntime.Gpu 1.6.0https://www.nuget.org/packages/Microsoft.ML.OnnxRuntime.Gpu/1.6.0

下载opencv4.2

https://www.nuget.org/api/v2/package/opencv4.2/2020.5.26https://www.nuget.org/api/v2/package/opencv4.2/2020.5.26

2. 安装

在vs2019，点击工具-》nuGet包管理器-》程序包管理器控制台，输入以下命令进行安装。

# 安装下载好的Microsoft.ML.OnnxRuntime.Gpu
Install-Package Microsoft.ML.OnnxRuntime.Gpu -Source E:\bk\win10-onnxruntime

# 安装opencv4

Install-Package opencv4.2 -Source E:\bk\win10-onnxruntime

安装完成

onnxruntime使用说明文档：

ONNX Runtime (ORT) - onnxruntimeONNX Runtime: cross-platform, high performance ML inferencing and training acceleratorhttps://onnxruntime.ai/docs/

九章云极普惠算力

更多推荐

Kandinsky-5.0-I2V-Lite-5s惊艳效果展示：赛博朋克街景→霓虹闪烁+雨滴滑落动态视频

本文介绍了如何在星图GPU平台上自动化部署Kandinsky-5.0-I2V-Lite-5s镜像，实现高效图生视频转换。该工具能将静态赛博朋克街景图片快速转换为动态视频，添加霓虹闪烁、雨滴滑落等效果，适用于短视频制作、广告创意等场景，显著提升内容创作效率。

九章云极普惠算力

终极指南：如何用facenet-pytorch快速构建企业级人脸识别系统

在当今数字化时代，人脸识别技术已成为身份验证、安全监控和智能交互的核心驱动力。facenet-pytorch作为一款基于PyTorch的开源人脸识别工具包，凭借其高效的MTCNN人脸检测和InceptionResnetV1特征提取能力，为开发者提供了从零构建专业级人脸识别系统的完整解决方案。本文将带你一步步探索这个强大工具的使用方法，从环境搭建到实际应用，让你在短时间内掌握人脸识别的核心技术。