关于混合量化问题

在混合量化过程中，如何判断哪些层的精度比较差？

如果在build rknn model中提示：
W extend layer_name to add will cause accuracy loss, do not extend.

是否指出该层不适应做量化呢？

期待您的回复！
祝好！

这看你个人经验，没有绝对对错，精度都是靠调试出来的。
可以经验认为类似上采样操作数据范围较大，量化效果不好，可以不量化处理。

在把怀疑的layer由量化改成非量化，但是在hybrid_quantization_step2时，会有这样的提示“W Hybrid model reset tensor "@conv2_4:weight" dtype to "float32"
W Hybrid model reset tensor "@conv2_4:bias" dtype to "float32"”， 这个conv2_4正是非量化layer的下一个layer.  请问这个提示什么意思呢？

passion 发表于 2019-10-16 23:20
在把怀疑的layer由量化改成非量化，但是在hybrid_quantization_step2时，会有这样的提示“W Hybrid model r ...

混合量化的时候，将该层的weight值的数据类型转成float
这个不是错误

jefferyzhang 发表于 2019-10-17 09:03
混合量化的时候，将该层的weight值的数据类型转成float
这个不是错误

请问将该层的weight值的数据类型转成float，是转换工具自动完成的吗？还需要人为delete 该layer吗？

passion 发表于 2019-10-17 10:26
请问将该层的weight值的数据类型转成float，是转换工具自动完成的吗？还需要人为delete 该layer吗？ ...

自动的