Toybrick

混合量化问题

leo

新手上路

积分
43
发表于 2020-8-19 18:15:12    查看: 597|回复: 2 | [复制链接]    打印 | 显示全部楼层
我做混合量化的时候,如果全部用float32,模型是能转换成功,推理正确。如果只把最后一层convolution(3x3)改成uint8,转换出来的模型推理就不正确了,为什么?
我是用rknn_toolkit-1.3.3b2工具在ubuntu18上转换的,模型是pytorch1.2的模型。
回复

使用道具 举报

leo

新手上路

积分
43
 楼主| 发表于 2020-8-20 15:39:19 | 显示全部楼层
最后发现是把最后2层改成float32就可以了。
回复

使用道具 举报

jefferyzhang

超级版主

积分
7726
发表于 2020-8-20 16:01:10 | 显示全部楼层
rknn问题可以加置顶帖的qq群询问。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表