关于pytorch转onnx的反卷积问题

1. pytorch必须是1.2版本
2. 反卷积可以支持，verbose打开看下上面转换的错误log是什么
3. 转的这个onnx模型转rknn之前先加载推理下看是否能成功

gyq_ 发表于 2020-4-1 16:20
我的是直接转换pt文件。
D RKNN output shape(batchnormalize): (0 16 16 320)
D Process convolution_at_i ...

确认pytorch是不是1.2版本，高了低了都不行。
在确认你这个pth模型用这个pytorch1.2是否可以读出来推理

gyq_ 发表于 2020-4-1 16:33
pytorch确认是1.2.0，模型也可以读出来推理

试下这个beta版本：

rknn_toolkit v1.3.1 beta3：
链接: https://pan.baidu.com/s/1Kn2FGAdF_j3CMLNEsC3OPw 提取码: rcds

把模型和转换脚本打包上传百度网盘，然后发给我，我提一个bug给NPU部门

gyq_ 发表于 2020-4-2 09:15
链接: https://pan.baidu.com/s/1jGD54_j_n0o6dj-xF-8SCw  密码: wor0

你的问题已经上报了。
楼主的问题楼主怎么不见了？

gyq_ 发表于 2020-4-2 09:51
还有一个问题，这里的反卷积是不是执行错了，正确的h,w应该是从16到32到64到128的，结果反过来缩小到2了 ...

这里看不出来，你可以按troubleshoot文档试着dump出每一层结果来看下是不是预期

gyq_ 发表于 2020-4-3 14:26
我输出出来看过了，确实是和预期的相反。
刚刚我又试了一下把第一个反卷积层的输入通道和输出通道改成相 ...

试下beta7:
链接：https://pan.baidu.com/s/1DuLeBawfoBP62mu0ADNGAA
提取码：qtys