Toybrick

标题: rknn的输出和标准的caffe输出有差异 [打印本页]

作者: slkjai    时间: 2019-11-14 11:51
标题: rknn的输出和标准的caffe输出有差异
本帖最后由 slkjai 于 2019-11-14 11:57 编辑

在比较caffe和rknn的差异时,发现使用转换后的模型,在开发板上的输出和使用标准caffe在pc上的输出总是差一点点,基本上是小数点后两位是一致的,小数点后三位往后就不一致,这个属于正常情况吗?
转换模型的时候没有使用量化,参数 do_quantization=False
我看其他的帖子说默认是FP16, 可以设置成FP32吗?如果可以,怎么设置

作者: jefferyzhang    时间: 2019-11-14 11:59
1. 精度损失是正常情况。
2. FP32我之前也提过需求给NPU部门,暂时没有接口提供。




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3