Toybrick

标题: 量化类型区别 [打印本页]

作者: slkjai 时间: 2019-11-15 11:52
标题: 量化类型区别
本帖最后由 slkjai 于 2019-11-15 12:10 编辑

量化类型有 asymmetric_quantized-u8、
dynamic_fixed_point-8、dynamic_fixed_point-16，默认值为 asymmetric_quantized-u8。前向的时间相差很大
这几种量化类型有什么区别？

作者: jefferyzhang 时间: 2019-11-15 12:33
就是量化的目标，当然数据长度越大，能表示的精度就越高。我们NPU 3T算力是u8的，你量化到u8才能有这个算力。
其他的算力会打折扣

欢迎光临 Toybrick (https://t.rock-chips.com/)