Toybrick
标题:
rknn的输出和标准的caffe输出有差异
[打印本页]
作者:
slkjai
时间:
2019-11-14 11:51
标题:
rknn的输出和标准的caffe输出有差异
本帖最后由 slkjai 于 2019-11-14 11:57 编辑
在比较caffe和rknn的差异时,发现使用转换后的模型,在开发板上的输出和使用标准caffe在pc上的输出总是差一点点,基本上是小数点后两位是一致的,小数点后三位往后就不一致,这个属于正常情况吗?
转换模型的时候没有使用量化,参数 do_quantization=False
我看其他的帖子说默认是FP16, 可以设置成FP32吗?如果可以,怎么设置
作者:
jefferyzhang
时间:
2019-11-14 11:59
1. 精度损失是正常情况。
2. FP32我之前也提过需求给NPU部门,暂时没有接口提供。
欢迎光临 Toybrick (https://t.rock-chips.com/)
Powered by Discuz! X3.3