Toybrick

关于加载模型的问题

huntlin

中级会员

积分
285
发表于 2025-12-18 19:19:34    查看: 451|回复: 2 | [复制链接]    打印 | 显示全部楼层
我这边的问题是:主控板+rk1808S0的场景,我发现rknn_toolkit_lite中load_rknn的函数传入参数里边有提及到load_model_in_npu这个传参,可以解释下是如何使用的吗?我目前理解的意思是否为把模型存放到rk1808S0芯片内部中,然后主控端去加载存放在1808内存中的模型路径位置?我这边目前测试了把load_model_in_npu设置为True,可以正常加载,但是在init_runtime就报错
InferEngine example start...
-->loading model
loading model done
--> Init runtime environment
W The target_sub_class is deprecated, please do not use it anymore!
I NPUTransfer: Starting NPU Transfer Client, Transfer version 2.1.0 (b5861e7@2020-11-23T11:50:51)
E RKNNAPI: rknn_init,  msg_load_ack fail, ack = 1(ACK_FAIL), expect 0(ACK_SUCC)!
E RKNNAPI: ==============================================
E RKNNAPI: RKNN VERSION:
E RKNNAPI:   API: 1.7.5 (bb79b30 build: 2023-06-20 09:32:18)
E RKNNAPI:   DRV: 1.7.5 (bb79b30 build: 2023-07-18 10:49:14)
E RKNNAPI: ==============================================
E Catch exception when init runtime!
*************************
all device(s) with ntb mode:
TS018084211200153
*************************
E ['TS018084211200153']
E Traceback (most recent call last):
  File "/usr/local/lib/python3.8/dist-packages/rknnlite/api/rknn_lite.py", line 156, in init_runtime
    self.rknn_runtime.build_graph(self.rknn_data, self.load_model_in_npu)
  File "rknnlite/api/rknn_runtime.py", line 807, in rknnlite.api.rknn_runtime.RKNNRuntime.build_graph
Exception: RKNN init failed. error code: RKNN_ERR_MODEL_INVALID

Init runtime environment failed


回复

使用道具 举报

jefferyzhang

版主

积分
16026
发表于 2025-12-19 18:35:06 | 显示全部楼层
RKNN_ERR_MODEL_INVALID 一般是模型格式不是该NPU支持的类型造成的。。拷贝完是否sync过,模型是否完整,校验下hash值
回复

使用道具 举报

huntlin

中级会员

积分
285
 楼主| 发表于 2025-12-23 14:41:25 | 显示全部楼层
hash值校验过,host端与device对比下是一样的值,不过在device端捕获到了如下异常:
:[parseModel:145]Invalid RKNN model:7813597123167745071 s 1313753938
rknn init error ret=-6
96375 NNService process msg init(203): client o init model fail!
回复

使用道具 举报

huntlin

中级会员

积分
285
 楼主| 发表于 2025-12-23 15:57:43 | 显示全部楼层
jefferyzhang 发表于 2025-12-19 18:35
RKNN_ERR_MODEL_INVALID 一般是模型格式不是该NPU支持的类型造成的。。拷贝完是否sync过,模型是否完整,校 ...

我这边校验了host端和device端的模型,都是一致的;但在程序运行中,device侧捕获到了异常,如下:
:[parseModel:145]Invalid RKNN model:7813597123167745071 s 1313753938rknn init error ret=-6E [parseModel:145]Invalid RKNN model:7813597123167745071 vs 131375393896375 NNService process msg init(203): client o init model fail!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表