Toybrick

rknn 是否支持eltwise

passion

注册会员

积分
100
楼主
发表于 2019-10-17 10:33:58    查看: 8888|回复: 3 | [复制链接]    打印 | 只看该作者
您好,

混合量化时,eltwise layer遇到这样的提示。
如果在build rknn model中提示:
W extend layer_name to add will cause accuracy loss, do not extend.

是否指出该层不适应做量化呢?


期待您的回复!
回复

使用道具 举报

jefferyzhang

版主

积分
13574
沙发
发表于 2019-10-17 14:11:02 | 只看该作者
先整体评估下精度下降是否可接受再考虑混合量化。
回复

使用道具 举报

passion

注册会员

积分
100
板凳
 楼主| 发表于 2019-10-17 14:14:16 | 只看该作者
jefferyzhang 发表于 2019-10-17 14:11
先整体评估下精度下降是否可接受再考虑混合量化。

现在采用asymmetric_quantized-u8/dynamic_fixed_point-8, 精度损失7%,无法满足产品需求。所以尝试混合量化,大概知道是哪个layer精度损失大,但是按照手册上操作后,会有这样的提示“W Hybrid model reset tensor "@conv2_4:weight" dtype to "float32"
W Hybrid model reset tensor "@conv2_4:bias" dtype to "float32"”
回复

使用道具 举报

jefferyzhang

版主

积分
13574
地板
发表于 2019-10-18 12:04:35 | 只看该作者
passion 发表于 2019-10-17 14:14
现在采用asymmetric_quantized-u8/dynamic_fixed_point-8, 精度损失7%,无法满足产品需求。所以尝试混合 ...

这个没问题
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表