Toybrick

关于rk1808 usb计算棒提升精度的问题

smallerlang

新手上路

积分
20
发表于 2021-4-30 23:35:52    查看: 263|回复: 1 | [复制链接]    打印 | 显示全部楼层
本帖最后由 smallerlang 于 2021-4-30 23:39 编辑

在rknn.confg中不开启量化,性能太差,只能到3/4fps,但是设置开启量化后,检测精度下降太厉害,为了提升模型精度同时兼顾性能,是不是要在此处不开启量化,同时采用混合量化流程?

回复

使用道具 举报

jefferyzhang

超级版主

积分
7774
发表于 2021-5-1 11:38:54 | 显示全部楼层
1. 训练时量化
2. 混合量化,将每一层输出打印和没量化对比其精度差,精度差的层直接设置不量化。
(这些在rknntoolkit提供的文档里全部都有写)
回复

使用道具 举报

smallerlang

新手上路

积分
20
 楼主| 发表于 2021-5-1 13:50:55 | 显示全部楼层
好的,感谢。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表