(1)在使用昇腾硬件(例如Atlas200)进行模型推理的时候,首先需要使用ATC工具将原始模型转换为适合昇腾硬件的模型(.om),支持原始框架类型为Caffe、TensorFlow、MindSpore、ONNX的模型转换,其中ONNX可以看做是一个中间模型,如果其他模型可以转换为ONNX模型那么也可以在使用ATC进行模型转换,例如pytorch模型转换为ONNX模型,ONNX模型再转换为.om文件。
(2)常用参数解释:
--model:原始模型文件路径与文件名
--weight:权重文件路径与文件名
--framework:原始模型框架:0是caffe,1是mindspore,3是tensorflow,5是onnx
--input_format:输入数据格式:Caffe默认为NCHW,TensorFlow默认为NHWC
--dynamic_image_size:设置输入图片的动态分辨率参数。适用于执行推理时,每次处理图片宽和高不固定的场景。
--output:存放转换后的离线模型的路径以及文件名
--soc_version:模型转换时指定芯片版本。
--insert_op_conf:插入算子的配置文件路径与文件名,例如aipp预处理算子(包含了图像预处理比如色域转换、减均值等)。
(3)例子:atc --model=yolov3.prototxt --weight=yolov3.caffemodel --framework=0 --output=yolov3_framework_caffe_aipp_1_batch_1_input_int8_output_FP32 --soc_version=Ascend310 --insert_op_conf=aipp_nv12.cfg
对模型yolov3.prototxt和权重yolov3.caffemodel的caffe原始模型进行转换,因此framework为0表示caffe,输出文件名字为yolov3_framework_caffe_aipp_1_batch_1_input_int8_output_FP32,推理芯片选择Ascend310,算子配置文件为aipp_nv12.cfg。
PS:CANN训练营第三期正在进行中,这次训练营包含了模型营、应用营、算子营。基本包涵了华为昇腾AI全流程开发的各个环节,欢迎感兴趣的同学报名参加~报名地址:昇腾CANN训练营第三期_开发者-华为云
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)