Toybrick
标题:
关于rk1808 usb计算棒提升精度的问题
[打印本页]
作者:
smallerlang
时间:
2021-4-30 23:35
标题:
关于rk1808 usb计算棒提升精度的问题
本帖最后由 smallerlang 于 2021-4-30 23:39 编辑
在rknn.confg中不开启量化,性能太差,只能到3/4fps,但是设置开启量化后,检测精度下降太厉害,为了提升模型精度同时兼顾性能,是不是要在此处不开启量化,同时采用混合量化流程?
作者:
jefferyzhang
时间:
2021-5-1 11:38
1. 训练时量化
2. 混合量化,将每一层输出打印和没量化对比其精度差,精度差的层直接设置不量化。
(这些在rknntoolkit提供的文档里全部都有写)
作者:
smallerlang
时间:
2021-5-1 13:50
好的,感谢。
欢迎光临 Toybrick (https://t.rock-chips.com/)
Powered by Discuz! X3.3