Toybrick

关于混合量化问题

passion

注册会员

积分
100
楼主
发表于 2019-10-16 11:38:59    查看: 6352|回复: 5 | [复制链接]    打印 | 显示全部楼层
在混合量化过程中,如何判断哪些层的精度比较差?

如果在build rknn model中提示:
W extend layer_name to add will cause accuracy loss, do not extend.

是否指出该层不适应做量化呢?

期待您的回复!
祝好!
回复

使用道具 举报

passion

注册会员

积分
100
沙发
 楼主| 发表于 2019-10-16 23:20:09 | 显示全部楼层
在把怀疑的layer由量化改成非量化,但是在hybrid_quantization_step2时,会有这样的提示“W Hybrid model reset tensor "@conv2_4:weight" dtype to "float32"
W Hybrid model reset tensor "@conv2_4:bias" dtype to "float32"”, 这个conv2_4正是非量化layer的下一个layer.  请问这个提示什么意思呢?
回复

使用道具 举报

passion

注册会员

积分
100
板凳
 楼主| 发表于 2019-10-17 10:26:54 | 显示全部楼层
jefferyzhang 发表于 2019-10-17 09:03
混合量化的时候,将该层的weight值的数据类型转成float
这个不是错误

请问将该层的weight值的数据类型转成float,是转换工具自动完成的吗?还需要人为delete 该layer吗?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表