使用rknn工具转换的模型结果和tensorflow结果不对

[复制链接] · 发表于 2019-7-17 19:21:24

本帖最后由 PositectTang 于 2019-7-18 14:02 编辑

使用rknn转换一个pb模型,发现两者跑出来的结果完全不一样,然后从每一个隐层看结果,发现从第一个隐层就开始有偏差,查看日志,发现第一层的膨胀系数为1,但是我pb模型是2,后面几层膨胀卷积系数都为1,但是我后面的系数为4,使用的是tf.nn.conv2d()里面的dilations参数,图片是各个隐层的结果对比,是不是rknn模型转化的时候自动忽略了膨胀卷积,测试了一下,使用普通的卷积,发现rknn模型和tensorflow模型结果是吻合的,转换时日志里面的膨胀系数还是一,感觉是转换会自动忽略膨胀系数这个选项,但是我必须要使用膨胀卷积,有什么方法可以解决吗

只看该作者 · 发表于 2019-7-23 11:58:05

已提交问题，请等待回复

只看该作者 · 发表于 2019-7-26 22:03:35

楼主该问题解决了吗

只看该作者 · 发表于 2019-12-7 11:44:25

jefferyzhang 发表于 2019-7-23 11:58
已提交问题，请等待回复

请问这个问题怎么解决的，我用的rknn toolkit 是1.2.1 api 1.2.0, DRV: 0.9.9；也是这样，结果完全对不上，直接使用onnx, prepare, run()，结果是和原模型一致的（只有小数位后面的才对不上）。 rknn在硬件上跑的就不对，但是其中的提示，打开verbose关于转换计算过程也没什么警告，reshape应该不影响结果。
感觉rknn整个使用过程只能猜，过程中什么支持什么不支持的，完全只能从坑里出来才知道，建议不能完善一下文档么，这样猜着踩着坑弄，太慢了。

只看该作者 · 发表于 2019-12-18 16:37:47

这么久了，这个问题可以解决了吗？

使用rknn工具转换的模型结果和tensorflow结果不对

本帖子中包含更多资源