Toybrick

楼主: qliu

init_runtime() 失败

jefferyzhang

版主

积分
12975
楼主
发表于 2019-11-23 16:18:11 | 显示全部楼层
RKNN_ERR_MODEL_INVALID 这是因为你转的模型有问题,无法加载。
转换时候版本和load版本一致么
回复

使用道具 举报

jefferyzhang

版主

积分
12975
沙发
发表于 2019-11-25 10:31:28 | 显示全部楼层
1. 仿真可以跑么?
2. 平台是toybrick的么?
回复

使用道具 举报

jefferyzhang

版主

积分
12975
板凳
发表于 2019-11-25 14:13:50 | 显示全部楼层
PC如果仿真跑不了说明转换的模型确实是有问题的,你先关了量化之类的东西试下
回复

使用道具 举报

jefferyzhang

版主

积分
12975
地板
发表于 2019-11-25 14:43:12 | 显示全部楼层
qliu 发表于 2019-11-25 14:16
我没有开量化啊。如果是模型有问题,能看到是因为因为什么算子导致的吗?我们可以改网络结构的。 ...

verbose里的log一点都没有么????log完整粘出来看下呀
回复

使用道具 举报

jefferyzhang

版主

积分
12975
5#
发表于 2019-11-25 16:22:33 | 显示全部楼层
你把pb模型和转换代码一起发上来下,我试下
回复

使用道具 举报

jefferyzhang

版主

积分
12975
6#
发表于 2019-11-26 08:57:30 | 显示全部楼层
已经提交问题了,等待相关部门答复。

PS:
加减均值那些操作没问题的,NPU端除了神经网络专用IP外,还有通用的运算单元。
回复

使用道具 举报

jefferyzhang

版主

积分
12975
7#
发表于 2019-11-26 12:41:47 | 显示全部楼层
feihu_h 发表于 2019-11-26 12:38
我们测试,感觉是有问题的,具体表现是不支持 维度广播  如维度1X5X5X3  - 向量 [2.00,3.2,4.1]  ;好像 ...

不支持都当bug处理,模型和转换脚本一起发上来,我找人debug
回复

使用道具 举报

jefferyzhang

版主

积分
12975
8#
发表于 2019-11-27 08:13:31 | 显示全部楼层
相关部门回复:(新版本已修复)

这个模型在新版本驱动里(v1.3.0)可以跑,但是因为这个网络用了大量的Add/Mean/Pow/Sub/Sqrt/Div等操作,这些操作大部分无法量化,无法跑在专有加速器上,只能跑在通用Shader上,因此性能非常低,建议客户尽量把这种零散的操作放到模型外,或者用常用的tensorflow的op(如pooling)来替换这些Add/Mean/Pow/Sub/Sqrt/Div操作,才可以有效的将NPU的加速单元利用起来。

另外,这些 Add/Mean/Pow/Sub/Sqrt/Div 操作看起来视乎是BN的操作,可以用标准的BN层来代替,我们的硬件是支持标准的BN层的。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表