量化类型区别

[复制链接] · 发表于 2019-11-15 11:52:41

本帖最后由 slkjai 于 2019-11-15 12:10 编辑

量化类型有 asymmetric_quantized-u8、
dynamic_fixed_point-8、dynamic_fixed_point-16，默认值为 asymmetric_quantized-u8。前向的时间相差很大
这几种量化类型有什么区别？

只看该作者 · 发表于 2019-11-15 12:33:52

就是量化的目标，当然数据长度越大，能表示的精度就越高。我们NPU 3T算力是u8的，你量化到u8才能有这个算力。
其他的算力会打折扣