MaskRCNN在Jetson tx2上的测速结果

2023-05-16

博主测试了在不同模式、精度下降MaskRCNN部署到Jetson TX2上的测速结果,与大家分享讨论。
对FasterRCNN的测速可见FasterRcnn在Jetson TX2上测速
使用的MaskRCNN框架:matterport/Mask_RCNN

  • 参考的TensorRT代码:sampleUffFasterRCNN
  • TensorRT版本: 6.0.1.0
  • JetPack版本:4.3
  • TensorFLow版本(用于在服务器上训练模型):1.14.0
  • 服务器上用于训练的CUDA版本:9.2

表1 MaskRCNN+TensorRT在Jetson TX2上测速结果

次序图像名图像尺寸TX2模式风扇FP生成engine推断
1test1.ppm640x480MAXNFP32744s1359ms
2test1.ppm640x480MAXNFP32814s1369ms
3test1.ppm640x480MAXQFP321055s1848ms
4test1.ppm640x480MAXP_CORE_ALLFP32888s1491ms
5test1.ppm640x480MAXP_CORE_ARMFP32878s1458ms
6test1.ppm640x480MAXNFP162922s785ms
7test2.ppm480x360MAXNFP32831S1378ms
8test2.ppm480x360MAXNFP162915s783ms

其中,一些基本参数和说明

  • FP32生成的engine大小: 285.4MB
  • FP16生成engine大小: 251.3MB
  • 这里的batch size =1,由于第一张需要预热,速度较慢,这里运行了10次求平均时间
  • 在不强制开启风扇时,生成引擎过程中会自动开启风扇

为了更好地比较提速效果,博主还测试了直接使用tensorflow版本的MaskRCNN在Jetson TX2上进行测速,结果如下
表2 MaskRCNN+TensorFlow在Jetson TX2上测速

次序图像名模型载入第一张推断之后推断与FP32推断时间比与FP16推断时间比
9test1.ppm32.4s22s2800ms2:14:1
10test2.ppm32.2s22s26002:14:1

以上两个测试都是在TX2模式为MAXN,风扇开启下完成。
原始的模式大小为244.23MB

由此可见,我们有如下结论,也欢迎大家留言讨论
在这里插入图片描述

其它Jetson开发板测速结果

1.MaskRCNN+TensorRT在Jetson tx2上的测速
2.FasterRCNN+TensorRT在Jetson TX2上测速
3.MaskRCNN+TensorRT在Jetson Xavier上的测速
4.pytorch+FasterRCNN在Jetson Xavier上的测速
5.MaskRCNN+TensorRT在Jetson Xavier NX上的测速
6.pytorch+FasterRCNN在Jetson Xavier NX上的测速

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

MaskRCNN在Jetson tx2上的测速结果 的相关文章

  • 记录一下jetson xaiver 连接51串口

    记录一下jetson xaiver 连接51串口 引脚说明 jetson方面 xff1a UART1 TX pin8 UART1 RX pin10 挂载节点 xff1a dev ttyTHS051方面 xff1a UART1 TX GPIO
  • Jetson Xavier NX安装Mavros

    Px4飞控通过USB线连接Jetson Xavier NX xff0c 如果需要进行软连接 xff0c 即通讯 xff0c 需要下载Mavros功能包 xff0c 并通过启动命令进行连接 安装Mavros sudo apt install
  • jetson nano 供电模式的切换或自定义供电模式

    前言 xff1a jetson nano 开发板在预设的10W MAXN 模式下需要用5v4A的DC供电 用5v2A的DC或者micro usb供电建议使用5W模式 供电不足会导致掉电关机 以下是学习jetson nano时 xff0c 对
  • NVIDIA Jetson Xavier NX部署VINS-fusion-GPU

    组内大佬师兄今天抽出时间总结了一篇博客 xff0c 主要内容是 xff1a 把在阿木P450无人机上 xff0c 对自带的NVIDIA Jetson Xavier NX边缘计算机部署VINS fusion GPU教程 xff0c 并进行实验
  • NVIDIA Jetson Xavier NX部署VINS-fusion-GPU

    NVIDIA Jetson Xavier NX部署VINS fusion GPU 一 环境配置 xff08 Ubuntu 18 04 xff09 1 Cuda 10 2的安装 span class token function sudo s
  • Jetson Xavier NX 配置(七)—— 数据传输之socket文件传输 & usb摄像头RTSP视频推流

    目录 1 Python socket 文件传输 xff08 1 xff09 发送单个文件 xff08 一次性 xff09 xff08 2 xff09 发送一个文件夹下的所有文件 xff08 一次性 xff09 xff08 3 xff09 发
  • jetson nano 编译pyrealsense2 运行t265

    在win10 的环境下 xff0c 安装pyrealsense2 xff0c 只需要简单的pip就可以了 xff0c 没想到在jetson nano下却花了那么多时间和精力 其实解决方案网上都有 xff0c 但是比较零碎 xff0c 只能遇
  • YOLO-darknet-on-Jetson-TX2

    YOLO darknet on Jetson TX2 https github com Alro10 YOLO darknet on Jetson TX2 software https blog csdn net cherry dr art
  • Jetson Xavier NX使用yolov5+deepsort实现CSI摄像头的目标跟踪

    文章目录 安装过程运行效果用python代码来打开CSI摄像头实现CSI摄像头目标跟踪报错 AttributeError 39 NoneType 39 object has no attribute 39 shape 39 运行效果 参考文
  • Nvidia Jetson Xavier 上使用CAN

    为了利于回忆 xff0c 将自己查询到的资料在这里记录一下 资料一 xff1a 20条消息 NVIDIA Xavier CAN weifengdq的专栏 CSDN博客 资料二 xff1a 英文版Enabling CAN on Nvidia
  • Jetson Nano 4GB 要怎么供电? Jetson Nano 2GB呢?

    Jetson Nano 4GB 常使用的电源连接方式有两种 xff1a 1 DC Power Jack 5 5 2 1mm 5V 4A xff0c 需使用跳帽将脚位 J48 短路 图一红框处 xff0c 电源连接方式请参照图一蓝框处 若一切
  • 在Jetson Nano上编译FastDeploy

    1 C 43 43 库的编译 span class token function git span clone https github com PaddlePaddle FastDeploy git span class token bu
  • 基于Jetson NX的模型部署

    系统安装 系统安装过程分为3步 xff1a 下载必要的软件及镜像 Jetson Nano Developer Kit SD卡映像 https developer nvidia com jetson nano sd card image Wi
  • 4.jetson更换python版本

    问题与背景 jetson自带的python版本是3 6 9 xff0c 太老旧了 xff0c 希望更换python版本 尝试替换成python3 7的版本 但是在未替换之前 xff0c 已经装了pip3了 xff0c 是否pip3会与pyt
  • 在Jetson Nano上实现单目相机 apritag_ros识别

    一 xff0c apritag ros安装 最开始采用克隆源码编译的方式进行安装 xff0c 后来在Jetson nano上有opencv4与opencv3的依赖问题 xff0c 后来索性直接采用二进制安装 xff1a sudo apt g
  • Nvidia Jetson nano 安装Archiconda、gpu版torch、踩坑记录

    Nvidia Jetson nano 安装Archiconda gpu版torch 踩坑记录 jetson nano 属于aarch64架构 xff0c 不同于一般的x86 64的linux系统架构 xff0c 而torch官网上面 htt
  • jetson镜像克隆到固态再扩容简单方法

    jetson克隆方法很多 xff0c 我是自己把之前的sd镜像克隆做成img镜像了 然后烧写后之前是64g的后续烧写都是64g的不能把新的储存设备占满 这里有一个扩容和移植到固态的方法 主要分三步 xff1a 镜像克隆和烧录到sd卡使用固态
  • Mask-RCNN中的损失函数

    对每个ROI来说 多任务损失函数如下 mask分支对于每个RoI有Km2 维度的输出 K个 类别数 分辨率为m m的二值mask 因此作者利用了a per pixel sigmoid 并且定义 Lmask 为平均二值交叉熵损失 the av
  • Jetson AGX Xavier踩坑记录

    1 联网后 升级所有安装包 并且更新了一下系统 sudo apt get update 2 安装中文输入法 sudo apt get install fcitx googlepinyin 3 安装nano文本编辑器 比较喜欢这个文本编辑器
  • Jetson Nano安装pytorch 基于torch1.6和torchvision0.7

    需要注意的是 博主使用的是win10主机 通过局域网连接的jetson nano 其中jetson nano的预制CUDA版本为10 2 Jetpack 4 1 1 分别执行以下命令 即可查看自己的jetson nano 预搭载的CUDA版

随机推荐