Toybrick»开源社区 › 技术论坛 › 人工智能 › 量化后模型精度下降，不量化做推理时报错 ...

量化后模型精度下降，不量化做推理时报错

积分: 250

楼主

发表于 2021-8-12 16:07:23 查看: 4501|回复: 0 | [复制链接]

测试模型为yolov3, 输入尺寸为416x416，在ubuntu上转换模型，toolkit版本为1.6. 硬件设备为rv1126

模型转换时，量化设置为True, 推理可以正常进行，但是精度下降很多。量化设置为False, 用同样的代码进行推理，报 segmentation fault.
如图。请问是什么原因导致的，该如何解决？

本帖子中包含更多资源

您需要登录才可以下载或查看，没有帐号？立即注册

收藏0

使用道具举报

返回列表