Toybrick

caffe模型转RKNN模型量化问题

ryanzx

注册会员

积分
104
楼主
发表于 2020-5-6 11:42:19    查看: 8910|回复: 3 | [复制链接]    打印 | 只看该作者
RKNNToolkit图形化工具中 量化的配置选项中有4种量化模式:dynamic_fixed_point-8、dynamic_fixed_point-16、asymmetric_quantized-u8、none
《Rockchip_User_Guide_RKNN_Toolkit_V1.3.0_CN》.pdf文档中对应的API详细描述中
API  build 对应量化参数 do_quantization 只有True 或 false
如果希望通过API调用完成 模型转换 量化的参数如何与图形工具中的4中量化模式对应?

另外一个问题:
4中量化模式 转换的RKNN模型 放到3399PRO下运行。dynamic_fixed_point-16运行会报错 其它3中方式都能正常完成推理。
报错的信息内容如下:
--> Init runtime environment
I NPUTransfer: Starting NPU Transfer Client, Transfer version 1.9.8 (cab3961@2019-12-12T09:54:26)
E RKNNAPI: rknn_init,  msg_load_ack fail, ack = 1(ACK_FAIL), expect 0(ACK_SUCC)!
E RKNNAPI: ==============================================
E RKNNAPI: RKNN VERSION:
E RKNNAPI:   API: 1.3.0 (c5654ea build: 2019-12-25 12:40:55)
E RKNNAPI:   DRV: 1.3.1 (6ebb4d7 build: 2020-01-02 09:37:58)
E RKNNAPI: ==============================================
E Catch exception when init runtime!
E Traceback (most recent call last):
E   File "rknn/api/rknn_base.py", line 988, in rknn.api.rknn_base.RKNNBase.init_runtime
E   File "rknn/api/rknn_runtime.py", line 320, in rknn.api.rknn_runtime.RKNNRuntime.build_graph
E Exception: RKNN init failed. error code: RKNN_ERR_MODEL_INVALID
Init runtime environment failed

回复

使用道具 举报

ryanzx

注册会员

积分
104
沙发
 楼主| 发表于 2020-5-7 14:26:29 | 只看该作者
版主可以回复下么???
回复

使用道具 举报

jefferyzhang

版主

积分
13580
板凳
发表于 2020-5-8 09:26:45 | 只看该作者
看不懂你再问什么。。。建议你文档先通读一遍。。。
还有看下混合量化这章
回复

使用道具 举报

午后阳光

注册会员

积分
111
地板
发表于 2020-7-1 11:32:21 | 只看该作者
E Exception: RKNN init failed. error code: RKNN_ERR_MODEL_INVALID  报错码显示传入的 RKNN 模型无效,换下正确的rknn模型
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表