Toybrick

标题: rknn 如何识别模型的量化方式 [打印本页]

作者: jpbillzhou 时间: 2019-10-23 23:01
标题: rknn 如何识别模型的量化方式
在应用RKNN-TOOLKIT进行模型转换时，使用了dynamic_fixed_point-16生成了*.rknn的文件。以上的工作是在LINUX PC上做的。我的应用程序是在RK3399PRO上运行。
我的应用程序中只应用rknn_init来调用模型（rknn_api.h提供的）。我不知道如何告诉RKNN量化模型是用dynamic_fixed_point-16生成的？
如果在转换时使用了默认的格式生成*.rknn文件，我的程序在rk3399pro上工作正常，但是精度降低很多。
如果在转换时使用了其他格式转换生成*.rknn文件，我的程序在rk3399pro上输出结果不对。
请问如何解决？

作者: jpbillzhou 时间: 2019-10-24 23:42
对不起。我发现我的模型量化时有错误发生。我测试了一下SSD是可以的。

作者: fengbobo12 时间: 2019-10-30 17:14

hisping 发表于 2019-10-24 09:36
我使用rknn-toolkit V1.2测试，模型为yolov3-tiny，quantized_dtype：量化类型asymmetric_quantized-u8、 d ...

tiny版本的为啥准确度下降了那么多

欢迎光临 Toybrick (https://t.rock-chips.com/)