Toybrick

PC上模拟器inference输出和RK3399上inference输出不一样

zengwubin

注册会员

积分
194
发表于 2020-3-24 16:07:29    查看: 555|回复: 10 | [复制链接]    打印 | 显示全部楼层
同样的代码和模型,在PC上转换后推理输出是正常的,但是移到RK3399上推理NPU输出就不正常 (全为1)了
回复

使用道具 举报

jefferyzhang

超级版主

积分
5440
发表于 2020-3-24 16:17:53 | 显示全部楼层
1. 确认rknn/api/driver版本是否一致
2. 量化与不量化测试结果是否一致
3. 连续运行几次结果是否一致。
回复

使用道具 举报

zengwubin

注册会员

积分
194
 楼主| 发表于 2020-3-24 18:27:39 | 显示全部楼层
jefferyzhang 发表于 2020-3-24 16:17
1. 确认rknn/api/driver版本是否一致
2. 量化与不量化测试结果是否一致
3. 连续运行几次结果是否一致。 ...

试过了都是一样的,PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra ... c-Face-Detector-1MB,在RK3399输出的conf全为1
回复

使用道具 举报

jefferyzhang

超级版主

积分
5440
发表于 2020-3-25 08:20:20 | 显示全部楼层
zengwubin 发表于 2020-3-24 18:27
试过了都是一样的,PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra-Light-Fast-Gene ...

我还没说完呢,这种问题得帮忙NPU部门定位到具体层后处理会比较快。不然提上去就遥遥无期了。

接下去就是打印出所有层输出,找到开始出问题的那一层,具体在troubleshoot文档里有描述。
回复

使用道具 举报

zengwubin

注册会员

积分
194
 楼主| 发表于 2020-3-25 10:51:27 | 显示全部楼层
jefferyzhang 发表于 2020-3-25 08:20
我还没说完呢,这种问题得帮忙NPU部门定位到具体层后处理会比较快。不然提上去就遥遥无期了。

接下去就 ...

在模拟器上输出的是对的,dump出的也是没错的(开启量化和不开启都是一样的),请问怎么dump出在NPU的每层输出
回复

使用道具 举报

jefferyzhang

超级版主

积分
5440
发表于 2020-3-25 11:00:12 | 显示全部楼层
本帖最后由 jefferyzhang 于 2020-3-25 11:02 编辑
zengwubin 发表于 2020-3-25 10:51
在模拟器上输出的是对的,dump出的也是没错的(开启量化和不开启都是一样的),请问怎么dump出在NPU的每 ...

你确认你rknn toolkit、 api、  dri和api都是1.3.0么?
不量化在NPU推理也是错的么?
板子是toybrick么?
原始模型和转换脚本一起发上来,转换和推理时候运行的完整log也发上来。
回复

使用道具 举报

zengwubin

注册会员

积分
194
 楼主| 发表于 2020-3-25 11:39:31 | 显示全部楼层
jefferyzhang 发表于 2020-3-25 11:00
你确认你rknn toolkit、 api、  dri和api都是1.3.0么?
不量化在NPU推理也是错的么?
板子是toybrick么?

回复不能上传附件,我新发帖了请看下
回复

使用道具 举报

jefferyzhang

超级版主

积分
5440
发表于 2020-3-25 11:41:29 | 显示全部楼层
zengwubin 发表于 2020-3-25 11:39
回复不能上传附件,我新发帖了请看下

发百度网盘。。。
回复

使用道具 举报

jefferyzhang

超级版主

积分
5440
发表于 2020-3-25 11:44:36 | 显示全部楼层
问题与该帖子重复 http://t.rock-chips.com/forum.ph ... 1406&extra=page%3D1
关闭本贴
回复

使用道具 举报

ddcat1991

注册会员

积分
126
发表于 2020-3-25 13:25:14 | 显示全部楼层
zengwubin 发表于 2020-3-24 18:27
试过了都是一样的,PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra-Light-Fast-Gene ...

我也用 Ultra-Light-Fast-Generic-Face-Detector-1MB 的 onnx转的, 可是连PC的仿真结果也是错的。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表