Toybrick

RKNN转换MNIST手写体识别问题

jefferyzhang

版主

积分
12981
楼主
发表于 2019-7-8 14:32:20 | 显示全部楼层
代码太长了没办法帮你调试,建议你可以按以下思路调试:
1. rknn的层默认未量化是FP16,精度和TF默认FP32有一点点区别,可以试着修改其中一个精度和另外一个 一致看下
2. 单层调试,把out设置到第一层输出、第二层输出、第三层... 以此类推,和tf的结果进行比较,查看是哪一层开始不一致的。
3. rknn的config归一指标要写 "0 0 0 1",不能不写
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表