关于混合量化问题

显示全部楼层 · 发表于 2019-10-16 22:06:14

这看你个人经验，没有绝对对错，精度都是靠调试出来的。
可以经验认为类似上采样操作数据范围较大，量化效果不好，可以不量化处理。

显示全部楼层 · 发表于 2019-10-17 09:03:24

passion 发表于 2019-10-16 23:20
在把怀疑的layer由量化改成非量化，但是在hybrid_quantization_step2时，会有这样的提示“W Hybrid model r ...

混合量化的时候，将该层的weight值的数据类型转成float
这个不是错误

显示全部楼层 · 发表于 2019-10-17 14:11:21

passion 发表于 2019-10-17 10:26
请问将该层的weight值的数据类型转成float，是转换工具自动完成的吗？还需要人为delete 该layer吗？ ...

自动的