量化完精度很差

[复制链接] · 发表于 2020-7-1 11:29:16

将onnx模型进行量化，量化完之后，模型的精度特别差，如果模型不量化，推理时间特别长。

只看该作者 · 发表于 2020-7-1 12:19:14

混合量化了解下

只看该作者 · 发表于 2020-7-7 11:19:15

jefferyzhang 发表于 2020-7-1 12:19
混合量化了解下

混合量化完之后精度也比较差，

只看该作者 · 发表于 2020-7-7 20:02:09

gssg123 发表于 2020-7-7 11:19
混合量化完之后精度也比较差，

不量化精度可以接受么？混合量化就是在不量化和量化之前取一个速度和精度的平衡

只看该作者 · 发表于 2020-7-10 18:45:38

jefferyzhang 发表于 2020-7-7 20:02
不量化精度可以接受么？混合量化就是在不量化和量化之前取一个速度和精度的平衡 ...

不量化精度可以接受，但是推理时间比较长

只看该作者 · 发表于 2020-7-10 22:58:55

gssg123 发表于 2020-7-10 18:45
不量化精度可以接受，但是推理时间比较长

那就混合量化去试了，速度和精度直接做平衡