rknn 如何识别模型的量化方式

[复制链接] · 发表于 2019-10-23 23:01:14

在应用RKNN-TOOLKIT进行模型转换时，使用了dynamic_fixed_point-16生成了*.rknn的文件。以上的工作是在LINUX PC上做的。我的应用程序是在RK3399PRO上运行。
我的应用程序中只应用rknn_init来调用模型（rknn_api.h提供的）。我不知道如何告诉RKNN量化模型是用dynamic_fixed_point-16生成的？
如果在转换时使用了默认的格式生成*.rknn文件，我的程序在rk3399pro上工作正常，但是精度降低很多。
如果在转换时使用了其他格式转换生成*.rknn文件，我的程序在rk3399pro上输出结果不对。
请问如何解决？

只看该作者 · 发表于 2019-10-24 23:42:07

对不起。我发现我的模型量化时有错误发生。我测试了一下SSD是可以的。

只看该作者 · 发表于 2019-10-30 17:14:25

hisping 发表于 2019-10-24 09:36
我使用rknn-toolkit V1.2测试，模型为yolov3-tiny，quantized_dtype：量化类型asymmetric_quantized-u8、 d ...

tiny版本的为啥准确度下降了那么多