这里写自定义目录标题
- 一、量化基础知识
-
- 1.1 Tops是什么意思?
- 1.2 什么是定点数?
- 1.3 定点数转换
- 1.4 什么是量化?
- 1.5 定点计算
-
- 1.5.1 定点计算——误差计算
- 1.5.2 定点计算——内存对比
- 1.5.3 定点计算——速度对比
- 1.6 量化有什么优缺点?
- 2、线性映射
- 非对称量化:
- 3、逐层量化、逐组量化和逐通道量化
- 4、在线量化和离线量化
- 5、权重量化和权重激活量化
- 6、量化的一般步骤
- 三、模型校准
-
- 1、什么是校准?
- 2、Max校准
- 3、Histogram校准
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)