Toybrick

rknn的输出和标准的caffe输出有差异

slkjai

注册会员

积分
60
楼主
发表于 2019-11-14 11:51:05    查看: 7819|回复: 1 | [复制链接]    打印 | 只看该作者
本帖最后由 slkjai 于 2019-11-14 11:57 编辑

在比较caffe和rknn的差异时,发现使用转换后的模型,在开发板上的输出和使用标准caffe在pc上的输出总是差一点点,基本上是小数点后两位是一致的,小数点后三位往后就不一致,这个属于正常情况吗?
转换模型的时候没有使用量化,参数 do_quantization=False
我看其他的帖子说默认是FP16, 可以设置成FP32吗?如果可以,怎么设置
回复

使用道具 举报

jefferyzhang

版主

积分
13580
沙发
发表于 2019-11-14 11:59:02 | 只看该作者
1. 精度损失是正常情况。
2. FP32我之前也提过需求给NPU部门,暂时没有接口提供。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表