Toybrick

标题: 请教pytorch转rknn模型时遇到ConvTranspose的bug [打印本页]

作者: changchenliang 时间: 2021-4-13 14:50
标题: 请教pytorch转rknn模型时遇到ConvTranspose的bug
本帖最后由 changchenliang 于 2021-4-15 18:18 编辑

在pytorch（1.6.0）转rknn（1.6.0）模型时发现个疑似bug的问题：
在转化反卷积nn.ConvTranspose2d(in-channel, out-channel)时，貌似对输出out-channel这个参数无效。举例： nn.ConvTranspose2d(1024, 512, kernel_size=4, stride=2, padding=1, bias=True)时，输入了1024个channel的feature map，输出应该是512个channel的feature map，但是发现转化后的rknn模型输出仍然是1024，也就是说out-channel这个参数无效了。因此就是报错（或者推理结果不对）因此貌似在转化反卷积convtranspose2d时有bug 。这种情况在以前pytorch1.2.0+rknn1.4.0版本时是没有的。。。。

因此能否请相关人员检查一下？是否是bug啊？否则convtranspose就没办法使用了

谢谢！

作者: changchenliang 时间: 2021-4-15 18:19
顶一下哈！

欢迎光临 Toybrick (https://t.rock-chips.com/)