遇到FAIL : Non-zero status code returned while running BatchNormalization node.
跑onnxruntime时,发现显卡没有用到
pip install onnxruntime默认是cpu版本的,如何使用gpu版本呢?
卸载cpu的,再安装GPU的、
我是这么做的。
用rt.get_device()查看是否能够使用GPU版本
import onnxruntime as rt
rt.get_device()
安装GPU版本的onnxruntime
pip3 uninstall onnxruntime
pip3 install onnxruntime-gpu
主机cuda版本不对应,出现各种链接库的问题
降低onnxruntime的版本是遇到
遇到FAIL : Non-zero status code returned while running BatchNormalization node.
无奈只能升级onnxruntime和cuda
将cuda升级到10.1版本、将onnx升级到 1.2.0版本
pip install onnxruntime-gpu==1.2.0
解决问题参考自
https://github.com/microsoft/onnxruntime/issues/3166#issuecomment-610713702