把pb文件转换为rknn后精度是变小了吗？

[复制链接] · 发表于 2019-11-6 20:17:19

在电脑上做人脸识别，pb文件的准确率比在开发板上转换为rknn后的准确率高，是转换后精度有所下降吗？

显示全部楼层 · 发表于 2019-11-19 11:23:02

jefferyzhang 发表于 2019-11-7 08:39
不做量化时候默认是FP16，PB默认是FP32，精度是会下降

那做量化的话，量化类型选择哪个比较好？

显示全部楼层 · 发表于 2019-11-19 16:15:51

jefferyzhang 发表于 2019-11-19 11:35
量化只有int8，没什么可选的。目前市面上NPU都是int8处理单元才能达到最高算力。

...

我更新了固件，toolkit是1.2.0的，我重新把pb转换为rknn测试的，发现比电脑上精度差的不是很多了，之前是1.0.0版本的toolkit差别比较大，转换工具的升级在精度方面有提高是吗？