程序员经验分享-hwhale

Win10系统安装TensorRT

2023-11-03

一、Win10系统安装GPU版本CUDA、Cudnn
二、Win10系统安装TensorRT

TensorRT简介

Tips：理论指引实践

TensorRT是一个高性能的深度学习推理（Inference）优化器，支持TensorFlow、Caffe、Mxnet、Pytorch等几乎所有的深度学习框架，将TensorRT和NVIDIA的GPU结合起来，能在几乎所有的框架中进行快速和高效的部署推理。
参考：TensorRT(1)-介绍-使用-安装

一、版本对应关系

CUDA与cuDNN版本必须对应！必须对应！必须对应！并且分CPU与GPU两个版本。TensorRT版本可向下兼容多个CUDA版本。

对应版本参考：
Nvidia CUDA, cuDNN, TensorRT，驱动以及架构之间的相互兼容关系

二、下载及安装

1.TensorRT

下载地址：
NVIDIA TensorRT Download

在这里插入图片描述
因为TensorRT向下兼容，所安装CUDA为11.3GPU版本，因此可以选择TensorRT 8.5 GA版本。
在这里插入图片描述
PS：EA 代表抢先体验。GA 表示稳定版，经过全面测试。

1.解压安装包并粘贴到CUDA内在这里插入图片描述
2.复制移动文件
将include中头文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\include\
将lib中所有lib文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\lib\x64\
将lib中所有dll文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\bin\

3.安装whl文件
pip一共需安装4个whl文件，分别在graphsurgeon、onnx_graphsurgeon、python、uff文件夹内。
可直接复制（需要根据具体位置进行修改）：
1. pip install C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\TensorRT-8.5.1.7\graphsurgeon\graphsurgeon-0.4.6-py2.py3-none-any.whl
2. pip install C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\TensorRT-8.5.1.7\onnx_graphsurgeon\onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl
3. pip install C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\TensorRT-8.5.1.7\python\tensorrt-8.5.1.7-cp39-none-win_amd64.whl
4. pip install C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\TensorRT-8.5.1.7\uff\uff-0.6.9-py2.py3-none-any.whl

PS：1.如果存在问题，可以先cd到文件夹中再进行安装；2.python文件夹中需选择对应cp即python版本。

import库，验证是否安装成功：
在这里插入图片描述
运行示例，验证是否安装成功：
示例所在文件夹：
TensorRT-8.5.1.7\samples\python\network_api_pytorch_mnist
在这里插入图片描述

2.No module named ‘pycuda’ & pycuda安装失败

验证过程中可能会出现No module named ‘pycuda’ 问题，若直接选择pip install pycuda的方法，由于会默认安装最新版本，可能会出现版本不匹配的问题。
因此选择下载安装包的方式进行本地安装。
下载地址：
PyCUDA下载
选择与已安装的win/CUDA/python相匹配的pycuda.whl文件下载并本地安装：
在这里插入图片描述
PS：若没有与环境匹配的pycuda版本，
安装完成后，在anaconda3的yolo环境中有相应库：
在这里插入图片描述

总结

祝一次安装成功。

参考文献

yolov5部署之七步完成tensorRT模型推理加速
WIN10安装配置TensorRT详解

本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)

人工智能

深度学习

机器学习

python

Win10系统安装TensorRT 的相关文章

随机推荐

  • 【数据结构】带头双向循环链表---C语言版（单链表我们分手吧，不要再找我玩了！！！）

    文章目录 一 前言 二 链表的分类 1 单向或者双向链表 2 带头或者不带头链表 3 循环或者非循环 4 最常用链表 三 带头双向循环链表详解 创建带头双向循环链表 接口1 定义结构体 LTNode 接口2 初始化 创建哨兵卫 LTInit

  • mmdet_config_builder_win

    在mmdet框架中使用config配置文件构建网络模型 from mmdet models builder import build detector from mmcv import Config import torch import

  • Android 内核调用充电状态和电池电量

    Android 内核调用充电状态和电池电量 前言 一 调用的文件 二 调用函数 1 引入使用 2 返回值说明 小结 前言 因为Android项目需求 不是什么时候都是用APP来实现功能 部分项目是要求需要驱动需要独立完成部分系统层面的功能

  • 在vue中引入echart的折线图时，echarts.graphic.LinearGradient，不能正常显示的解决方法。

    在vue中需要达到折线图 且有区域渐变色的效果 那么像下面那样子直接复制过来 在vue中不能渲染出来 需要将原来的 new echarts graphic LinearGradient 改成这样 new this echarts graph

  • Vue线上部署之cdn加速（终极加速）

    文章目录 1 概述 3 cdn gzip vs gzip 1 概述 之前做过服务器nginx开启gzip压缩 速度缩减了很多 加载时间在1秒多 会出现白屏 原因是好多依赖被打包到js中了 体积太大 加载很慢 今天加了下cdn 速度真正起飞

  • Tomcat 线程池

    目录 概述 tomcat线程池工作原理 关键源码 Connector 配置 Executor 线程配置 tomcat核心组件 题外 概述 Tomcat 是一个流行的 Java Web 服务器 它使用线程池来处理客户端请求 线程池是一组预先创

  • 矩阵的转置等于矩阵的逆

    http zhidao baidu com question 334500638 html 百度知道三个回答 矩阵A的转置矩阵A T等于A的逆矩阵A 1 那么AA T AA 1 E 设A 1 2 3 n T 其中 i为n维列向量 那么A T

  • 华为机试-在字符串中找出连续最长的数字串

    题目描述样例输出输出123058789 函数返回值9输出54761 函数返回值5接口说明函数原型 unsignedint Continumax char pOutputstr char intputstr 输入参数 char intputs

  • Android zygote进程启动过程

    zygote启动过程中涉及到以下模块 app process zygote USAP socket FileDescriptor FD AndroidRuntime AppRuntime 定义于app process模块 继承自Androi

  • STM32F103构建固件库模板(PS固件库文件树介绍)

    参考 STM32F103ZE新建固件库模板 作者 追兮兮 发布时间 2020 10 14 10 31 45 网址 https blog csdn net weixin 44234294 article details 109065495 参

  • 官网ISE14.7虚拟机版本在Win11的安装记录

    目录 第一步 下载ISE14 7虚拟机版本 第二步 下载IOracle VM VirtualBox虚拟机 第三步 安装虚拟机Oracle VM VirtualBox 第四步 安装ISE14 7 4 1 参考博客 4 2 格外注意 4 3 安

  • 软件测试之linux复习！

    1 介绍linux linux分为 内核版 发行版 常见的发行版 Ubuntu redhat fedora kaliLinux backtrack linux 2 命令 cd 跳转路径 相对路径 根据当前目录进行跳转时的方式 绝对路径 从

  • Redis(一)

    Redis和Memcache比较 Redis是单进程单线程模式 采用I O多路复用 Memcached 采用 多线程模型 采用非阻塞I O 1 Redis不仅仅支持简单的k v类型的数据 同时还提供list set zset hash等数据

  • 区块链基础知识(3)-区块链的存储(怎样记账)

    我们已经知道 比特币相当于是 全球账薄 那这份账单是如何存储的 也就是说把账记在哪里 区块链包含N个随时间排序的块 每个块都有一个指向前一区块的指针 所有块通过这个指针形成一个链 所以称为区块链 第一个块称为创世区块 如图 从上图可见 区块

  • 统计学基础面点

    文章目录 1 T检验 F检验 卡方检验 2 方差分析 3 多重共线性 4 参数估计 5 假设检验 6 大数定律和中心极限定理 总结一下统计学的基础概念和考点给即将秋招的统计学er以及baozi 1 T检验 基本概念 t检验 亦称studen

  • 基于AR模型的数据预测及Matlab实现

    基于AR模型的数据预测及Matlab实现 自动回归 AR 模型是一种常见的时间序列分析方法 它基于过去一段时间的数据 预测未来的数值走势 本文将介绍如何使用基于AR模型的方法来预测数据 并提供相应的Matlab源代码 首先 我们需要了解AR

  • 剑指 offer （专项突击版）

    剑指 Offer II 001 整数除法 方法一 class Solution public int divide int a int b 考虑被除数为最小值的情况 if a INT MIN if b 1 return INT MIN if

  • 调整服务器虚拟内存,服务器虚拟内存调整

    弹性云服务器 ECS 弹性云服务器 Elastic Cloud Server 是一种可随时自助获取 可弹性伸缩的云服务器 帮助用户打造可靠 安全 灵活 高效的应用环境 确保服务持久稳定运行 提升运维效率 三年低至5折 多种配置可选了解详情

  • Caffeine Java：提高代码效率的缓存库

    Caffeine Java 提高代码效率的缓存库 缓存是提高应用程序性能的关键技术之一 Caffeine Java是一个功能强大的缓存库 它提供了高效的缓存管理机制 可以显著提升代码的执行效率 本文将介绍Caffeine Java的基本概念

  • Win10系统安装TensorRT

    一 Win10系统安装GPU版本CUDA Cudnn 二 Win10系统安装TensorRT 文章目录 环境搭建系列文章目录 TensorRT简介 一 版本对应关系 二 下载及安装 1 TensorRT 2 No module named

热门标签