caffe模型转RKNN问题

使用 混合量化。
请参看文档。。

ryanzx 发表于 2020-5-8 10:28
混合量化正在看，每一层的量化配置有没有什么指导的文档？
另外：上面的dynamic-u16位量化后的模型 在运 ...

你其实都不用搞u16，就是用u8或者就不量化，u16意义不大。
这个也是炼金过程，toolkit里有sample你可以参考下。
一般来说就是模型前几层和后几层改成不量化可以很大提高精度
u16那个不能加载你可以在混合量化里试试，全部u16意义不大，速度很慢。