jefferyzhang 发表于 2019-11-7 08:39
不做量化时候默认是FP16,PB默认是FP32,精度是会下降
jiajia1990 发表于 2019-11-19 11:23
那做量化的话,量化类型选择哪个比较好?
jefferyzhang 发表于 2019-11-19 11:35
量化只有int8,没什么可选的。目前市面上NPU都是int8处理单元才能达到最高算力。
...
jiajia1990 发表于 2019-11-19 16:15
我更新了固件,toolkit是1.2.0的,我重新把pb转换为rknn测试的,发现比电脑上精度差的不是很多了,之前是 ...
欢迎光临 Toybrick (https://t.rock-chips.com/) | Powered by Discuz! X3.3 |