dynamic_fixed_point-16转换的模型，rknn_init时，发生报错

[复制链接] · 发表于 2019-10-16 11:33:09

我在使用贵司RK3399pro过程中遇到了问题，请帮忙指导一下debug方向。

问题描述：

dynamic_fixed_point-16转换的模型，rknn_init时，发生报错如下：E RKNNAPI: rknn_init,recv(MsgLoadAck) fail, -9(ERROR_PIPE) != 368!

使用软件版本：

rknn-toolkit-V1.2.0

rknn-api-V0.9.9

DRVv0.9.9

只看该作者 · 发表于 2019-10-16 22:07:44

换个环境测试，如果是在PC端发生错误，就放板子上试试

只看该作者 · 发表于 2019-10-16 23:16:48

是在板子上跑的，换了其他版本的api和drv均是这个现象，不知道是否跟转换的模型有关系。

只看该作者 · 发表于 2019-10-17 09:00:41

这句话意思是初始化模型时接收ack失败。
转的模型应该是没成功的

只看该作者 · 发表于 2019-10-17 10:24:09

jefferyzhang 发表于 2019-10-17 09:00
这句话意思是初始化模型时接收ack失败。
转的模型应该是没成功的

多谢群主。请问在转dynamic_fixed_point-16时有什么特别的地方吗？同样的环境同一个模型dynamic_fixed_point-8转换的模型是正常的。

只看该作者 · 发表于 2019-10-17 12:19:07

passion 发表于 2019-10-17 10:24
多谢群主。请问在转dynamic_fixed_point-16时有什么特别的地方吗？同样的环境同一个模型dynamic_fixed_po ...

这个我也不是很清楚，理论上是一样的，但是尽量要用int8才能发挥我们NPU最大速度

只看该作者 · 发表于 2019-10-17 13:45:52

jefferyzhang 发表于 2019-10-17 12:19
这个我也不是很清楚，理论上是一样的，但是尽量要用int8才能发挥我们NPU最大速度 ...

int8 精度损失有些大，计划试试int16呢。

只看该作者 · 发表于 2019-10-17 14:13:16

passion 发表于 2019-10-17 13:45
int8 精度损失有些大，计划试试int16呢。

可以试试混合量化.

只看该作者 · 发表于 2020-4-2 17:02:25

jefferyzhang 发表于 2019-10-17 14:13
可以试试混合量化.

请问asymmetric_quantized-u8、 dynamic_fixed_point-8、dynamic_fixed_point-16分别是对应int8,float16,float32吗？

只看该作者 · 发表于 2020-4-2 17:09:47

呱唧发表于 2020-4-2 17:02
请问asymmetric_quantized-u8、 dynamic_fixed_point-8、dynamic_fixed_point-16分别是对应int8,float16, ...

不是的，量化不懂的话看看置顶整合贴里有量化理论：
http://t.rock-chips.com/forum.ph ... &extra=page%3D1

这三个是非对称uint8量化、动态固定uint8量化，动态固定uint16量化的意思。
rknntoolkit文档里也有描述