caffe模型转RKNN模型量化问题

[复制链接] · 发表于 2020-5-6 11:42:19

RKNNToolkit图形化工具中量化的配置选项中有4种量化模式：dynamic_fixed_point-8、dynamic_fixed_point-16、asymmetric_quantized-u8、none
《Rockchip_User_Guide_RKNN_Toolkit_V1.3.0_CN》.pdf文档中对应的API详细描述中
API build 对应量化参数 do_quantization 只有True 或 false
如果希望通过API调用完成模型转换量化的参数如何与图形工具中的4中量化模式对应？

另外一个问题：
4中量化模式转换的RKNN模型放到3399PRO下运行。dynamic_fixed_point-16运行会报错其它3中方式都能正常完成推理。
报错的信息内容如下：
--> Init runtime environment
I NPUTransfer: Starting NPU Transfer Client, Transfer version 1.9.8 (cab3961@2019-12-12T09:54:26)
E RKNNAPI: rknn_init, msg_load_ack fail, ack = 1(ACK_FAIL), expect 0(ACK_SUCC)!
E RKNNAPI: ==============================================
E RKNNAPI: RKNN VERSION:
E RKNNAPI: API: 1.3.0 (c5654ea build: 2019-12-25 12:40:55)
E RKNNAPI: DRV: 1.3.1 (6ebb4d7 build: 2020-01-02 09:37:58)
E RKNNAPI: ==============================================
E Catch exception when init runtime!
E Traceback (most recent call last):
E File "rknn/api/rknn_base.py", line 988, in rknn.api.rknn_base.RKNNBase.init_runtime
E File "rknn/api/rknn_runtime.py", line 320, in rknn.api.rknn_runtime.RKNNRuntime.build_graph
E Exception: RKNN init failed. error code: RKNN_ERR_MODEL_INVALID
Init runtime environment failed

只看该作者 · 发表于 2020-5-7 14:26:29

版主可以回复下么？？？

只看该作者 · 发表于 2020-5-8 09:26:45

看不懂你再问什么。。。建议你文档先通读一遍。。。
还有看下混合量化这章

只看该作者 · 发表于 2020-7-1 11:32:21

E Exception: RKNN init failed. error code: RKNN_ERR_MODEL_INVALID 报错码显示传入的 RKNN 模型无效，换下正确的rknn模型