resnet中add op量化后损失变大。

显示全部楼层 · 发表于 2020-7-9 15:46:36

建议你了解下 “量化” 这个技术。如果只是想无脑模型转rknn就想达到原模型精度又能达到量化速度，那是不可能实现的。
提高精度很多方法：
1. rknn提供的混合量化了解下。
2.tensorflow的训练量化了解下

显示全部楼层 · 发表于 2020-7-9 16:32:30

lbq0111 发表于 2020-7-9 16:14
有没有计划出一套工具，类似海思Ruyistudio中Vector Compare的功能。比较量化前后featuremap的差异 ...

rknntoolkit 可视化工具了解下