关于混合量化问题

[复制链接] · 发表于 2019-10-16 11:38:59

在混合量化过程中，如何判断哪些层的精度比较差？

如果在build rknn model中提示：
W extend layer_name to add will cause accuracy loss, do not extend.

是否指出该层不适应做量化呢？

期待您的回复！
祝好！

只看该作者 · 发表于 2019-10-16 22:06:14

这看你个人经验，没有绝对对错，精度都是靠调试出来的。
可以经验认为类似上采样操作数据范围较大，量化效果不好，可以不量化处理。

只看该作者 · 发表于 2019-10-16 23:20:09

在把怀疑的layer由量化改成非量化，但是在hybrid_quantization_step2时，会有这样的提示“W Hybrid model reset tensor "@conv2_4:weight" dtype to "float32"
W Hybrid model reset tensor "@conv2_4:bias" dtype to "float32"”，这个conv2_4正是非量化layer的下一个layer. 请问这个提示什么意思呢？

只看该作者 · 发表于 2019-10-17 09:03:24

passion 发表于 2019-10-16 23:20
在把怀疑的layer由量化改成非量化，但是在hybrid_quantization_step2时，会有这样的提示“W Hybrid model r ...

混合量化的时候，将该层的weight值的数据类型转成float
这个不是错误

只看该作者 · 发表于 2019-10-17 10:26:54

jefferyzhang 发表于 2019-10-17 09:03
混合量化的时候，将该层的weight值的数据类型转成float
这个不是错误

请问将该层的weight值的数据类型转成float，是转换工具自动完成的吗？还需要人为delete 该layer吗？

只看该作者 · 发表于 2019-10-17 14:11:21

passion 发表于 2019-10-17 10:26
请问将该层的weight值的数据类型转成float，是转换工具自动完成的吗？还需要人为delete 该layer吗？ ...

自动的