关于rk1808 usb计算棒提升精度的问题

[复制链接] · 发表于 2021-4-30 23:35:52

本帖最后由 smallerlang 于 2021-4-30 23:39 编辑

在rknn.confg中不开启量化，性能太差，只能到3/4fps，但是设置开启量化后，检测精度下降太厉害，为了提升模型精度同时兼顾性能，是不是要在此处不开启量化，同时采用混合量化流程？

只看该作者 · 发表于 2021-5-1 11:38:54

1. 训练时量化
2. 混合量化，将每一层输出打印和没量化对比其精度差，精度差的层直接设置不量化。
（这些在rknntoolkit提供的文档里全部都有写）

只看该作者 · 发表于 2021-5-1 13:50:55

好的，感谢。