Toybrick

标题: 量化完精度很差 [打印本页]

作者: gssg123 时间: 2020-7-1 11:29
标题: 量化完精度很差
将onnx模型进行量化，量化完之后，模型的精度特别差，如果模型不量化，推理时间特别长。

作者: jefferyzhang 时间: 2020-7-1 12:19
混合量化了解下

作者: gssg123 时间: 2020-7-7 11:19

jefferyzhang 发表于 2020-7-1 12:19
混合量化了解下

混合量化完之后精度也比较差，

作者: jefferyzhang 时间: 2020-7-7 20:02

gssg123 发表于 2020-7-7 11:19
混合量化完之后精度也比较差，

不量化精度可以接受么？混合量化就是在不量化和量化之前取一个速度和精度的平衡

作者: gssg123 时间: 2020-7-10 18:45

jefferyzhang 发表于 2020-7-7 20:02
不量化精度可以接受么？混合量化就是在不量化和量化之前取一个速度和精度的平衡 ...

不量化精度可以接受，但是推理时间比较长

作者: jefferyzhang 时间: 2020-7-10 22:58

gssg123 发表于 2020-7-10 18:45
不量化精度可以接受，但是推理时间比较长

那就混合量化去试了，速度和精度直接做平衡

欢迎光临 Toybrick (https://t.rock-chips.com/)