Toybrick

标题: rknn 是否支持eltwise [打印本页]

作者: passion 时间: 2019-10-17 10:33
标题: rknn 是否支持eltwise
您好，

混合量化时，eltwise layer遇到这样的提示。
如果在build rknn model中提示：
W extend layer_name to add will cause accuracy loss, do not extend.

是否指出该层不适应做量化呢？

期待您的回复！

作者: jefferyzhang 时间: 2019-10-17 14:11
先整体评估下精度下降是否可接受再考虑混合量化。

作者: passion 时间: 2019-10-17 14:14

jefferyzhang 发表于 2019-10-17 14:11
先整体评估下精度下降是否可接受再考虑混合量化。

现在采用asymmetric_quantized-u8/dynamic_fixed_point-8, 精度损失7%，无法满足产品需求。所以尝试混合量化，大概知道是哪个layer精度损失大，但是按照手册上操作后，会有这样的提示“W Hybrid model reset tensor "@conv2_4:weight" dtype to "float32"
W Hybrid model reset tensor "@conv2_4:bias" dtype to "float32"”

作者: jefferyzhang 时间: 2019-10-18 12:04

passion 发表于 2019-10-17 14:14
现在采用asymmetric_quantized-u8/dynamic_fixed_point-8, 精度损失7%，无法满足产品需求。所以尝试混合 ...

这个没问题

欢迎光临 Toybrick (https://t.rock-chips.com/)