Toybrick

标题: 量化后模型精度下降，不量化做推理时报错 [打印本页]

作者: hiCrystal 时间: 2021-8-12 16:07
标题: 量化后模型精度下降，不量化做推理时报错
测试模型为yolov3, 输入尺寸为416x416，在ubuntu上转换模型，toolkit版本为1.6. 硬件设备为rv1126

模型转换时，量化设置为True, 推理可以正常进行，但是精度下降很多。量化设置为False, 用同样的代码进行推理，报 segmentation fault.
如图。请问是什么原因导致的，该如何解决？

欢迎光临 Toybrick (https://t.rock-chips.com/)