Toybrick

标题: 关于混合量化问题 [打印本页]

作者: passion 时间: 2019-10-16 11:38
标题: 关于混合量化问题
在混合量化过程中，如何判断哪些层的精度比较差？

如果在build rknn model中提示：
W extend layer_name to add will cause accuracy loss, do not extend.

是否指出该层不适应做量化呢？

期待您的回复！
祝好！

作者: jefferyzhang 时间: 2019-10-16 22:06
这看你个人经验，没有绝对对错，精度都是靠调试出来的。
可以经验认为类似上采样操作数据范围较大，量化效果不好，可以不量化处理。

作者: passion 时间: 2019-10-16 23:20
在把怀疑的layer由量化改成非量化，但是在hybrid_quantization_step2时，会有这样的提示“W Hybrid model reset tensor "@conv2_4:weight" dtype to "float32"
W Hybrid model reset tensor "@conv2_4:bias" dtype to "float32"”，这个conv2_4正是非量化layer的下一个layer. 请问这个提示什么意思呢？

作者: jefferyzhang 时间: 2019-10-17 09:03

passion 发表于 2019-10-16 23:20
在把怀疑的layer由量化改成非量化，但是在hybrid_quantization_step2时，会有这样的提示“W Hybrid model r ...

混合量化的时候，将该层的weight值的数据类型转成float
这个不是错误

作者: passion 时间: 2019-10-17 10:26

jefferyzhang 发表于 2019-10-17 09:03
混合量化的时候，将该层的weight值的数据类型转成float
这个不是错误

请问将该层的weight值的数据类型转成float，是转换工具自动完成的吗？还需要人为delete 该layer吗？

作者: jefferyzhang 时间: 2019-10-17 14:11

passion 发表于 2019-10-17 10:26
请问将该层的weight值的数据类型转成float，是转换工具自动完成的吗？还需要人为delete 该layer吗？ ...

自动的

欢迎光临 Toybrick (https://t.rock-chips.com/)