模型转换，量化的一些问题

只看该作者 · 发表于 2019-8-13 23:27:49

abcehac 发表于 2019-8-13 22:19
噢！！原来是这个逻辑！那我是不是也应该放进去一些假的图片或者说不在我label内的图片，这样是不是能起 ...

量化不是训练！！！
量化只是把浮点转定点，运算速度快而已

只看该作者 · 发表于 2019-8-14 12:48:05

jefferyzhang 发表于 2019-8-13 23:27
量化不是训练！！！
量化只是把浮点转定点，运算速度快而已

哈哈哈哈，看来我又想多了……

只看该作者 · 发表于 2020-4-2 18:04:00

jefferyzhang 发表于 2019-8-8 14:00
量化提高了速度，降低了成本。正常来说肯定是量化图片越多精度越高。
不开启量化默认是用FP16，可以手动 ...

do_quantization设置成False的时候默认是FP16吗？那要怎么设置成FP32呢？

只看该作者 · 发表于 2020-4-2 18:08:28

呱唧发表于 2020-4-2 18:04
do_quantization设置成False的时候默认是FP16吗？那要怎么设置成FP32呢？

混合量化后一层层改fp32.
不提供直接的接口，因为没人用