Toybrick

标题: 混合量化问题 [打印本页]

作者: leo    时间: 2020-8-19 18:15
标题: 混合量化问题
我做混合量化的时候,如果全部用float32,模型是能转换成功,推理正确。如果只把最后一层convolution(3x3)改成uint8,转换出来的模型推理就不正确了,为什么?
我是用rknn_toolkit-1.3.3b2工具在ubuntu18上转换的,模型是pytorch1.2的模型。

作者: leo    时间: 2020-8-20 15:39
最后发现是把最后2层改成float32就可以了。
作者: jefferyzhang    时间: 2020-8-20 16:01
rknn问题可以加置顶帖的qq群询问。




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3