3399Pro，使用rknn.build(）开量化存在的问题

[复制链接] · 发表于 2019-8-7 11:44:36

采用3399Pro训练自己的yolov3-tiny模型，使用rknn.build(）函数存在一个问题：设置rknn.build(do_quantization=True, dataset='./dataset.txt')量化为True时，推理速度基本可以达到实时，但是检测精度非常低，与PC测试的结果相差非常大（同一段视频文件,PC上基本每帧都能检测到所需目标，但板子上大多数都检测不到）；
设置rknn.build(do_quantization=False, dataset='./dataset.txt')量化为Fasle时，推理速度很慢，只有大约4帧，检测精度却与PC测试的结果基本一致，基本每帧都能检测到所需目标。
请问这是确实存在的问题吗？还是我哪里操作不对导致的？
由于我们现在的应用是需要实时检测，但开启量化精度太低，基本不能用，请问有什么建议，可以在开启量化时，提升精度？

只看该作者 · 发表于 2019-8-7 17:27:43

试试混合量化看看？

只看该作者 · 发表于 2019-8-7 20:54:34

关注一下！还没上自己的模型。未来也怕出这样的问题。

只看该作者 · 发表于 2019-8-8 08:58:37

elooon 发表于 2019-8-7 17:27
试试混合量化看看？

请问混合量化怎么操作呢？