把pb文件转换为rknn后精度是变小了吗？

在电脑上做人脸识别，pb文件的准确率比在开发板上转换为rknn后的准确率高，是转换后精度有所下降吗？

不做量化时候默认是FP16，PB默认是FP32，精度是会下降

jefferyzhang 发表于 2019-11-7 08:39
不做量化时候默认是FP16，PB默认是FP32，精度是会下降

那做量化的话，量化类型选择哪个比较好？

jiajia1990 发表于 2019-11-19 11:23
那做量化的话，量化类型选择哪个比较好？

量化只有int8，没什么可选的。目前市面上NPU都是int8处理单元才能达到最高算力。

jefferyzhang 发表于 2019-11-19 11:35
量化只有int8，没什么可选的。目前市面上NPU都是int8处理单元才能达到最高算力。

...

我更新了固件，toolkit是1.2.0的，我重新把pb转换为rknn测试的，发现比电脑上精度差的不是很多了，之前是1.0.0版本的toolkit差别比较大，转换工具的升级在精度方面有提高是吗？

jiajia1990 发表于 2019-11-19 16:15
我更新了固件，toolkit是1.2.0的，我重新把pb转换为rknn测试的，发现比电脑上精度差的不是很多了，之前是 ...

这我怎么回答你，rknn一直在debug和改进，新版本肯定要比旧版本有所改进呀，不然只升级版本号有啥意思。。。
还有rknn和驱动的版本号要匹配，1.2.1匹配的是api 1.2.1 drv 0.9.9或者1.2.0.
转换和运行的版本不匹配的话也会出现奇怪的问题。