Toybrick

标题: 混合量化问题 [打印本页]

作者: leo 时间: 2020-8-19 18:15
标题: 混合量化问题
我做混合量化的时候，如果全部用float32，模型是能转换成功，推理正确。如果只把最后一层convolution（3x3）改成uint8,转换出来的模型推理就不正确了，为什么？
我是用rknn_toolkit-1.3.3b2工具在ubuntu18上转换的，模型是pytorch1.2的模型。

作者: leo 时间: 2020-8-20 15:39
最后发现是把最后2层改成float32就可以了。

作者: jefferyzhang 时间: 2020-8-20 16:01
rknn问题可以加置顶帖的qq群询问。

欢迎光临 Toybrick (https://t.rock-chips.com/)