把pb文件转换为rknn后精度是变小了吗？

不做量化时候默认是FP16，PB默认是FP32，精度是会下降

jiajia1990 发表于 2019-11-19 11:23
那做量化的话，量化类型选择哪个比较好？

量化只有int8，没什么可选的。目前市面上NPU都是int8处理单元才能达到最高算力。

jiajia1990 发表于 2019-11-19 16:15
我更新了固件，toolkit是1.2.0的，我重新把pb转换为rknn测试的，发现比电脑上精度差的不是很多了，之前是 ...

这我怎么回答你，rknn一直在debug和改进，新版本肯定要比旧版本有所改进呀，不然只升级版本号有啥意思。。。
还有rknn和驱动的版本号要匹配，1.2.1匹配的是api 1.2.1 drv 0.9.9或者1.2.0.
转换和运行的版本不匹配的话也会出现奇怪的问题。