Toybrick

标题: 请教pytorch转rknn模型时遇到ConvTranspose的bug [打印本页]

作者: changchenliang    时间: 2021-4-13 14:50
标题: 请教pytorch转rknn模型时遇到ConvTranspose的bug
本帖最后由 changchenliang 于 2021-4-15 18:18 编辑

在pytorch(1.6.0)转rknn(1.6.0)模型时发现个疑似bug的问题:
在转化反卷积nn.ConvTranspose2d(in-channel, out-channel)时,貌似对输出out-channel这个参数无效。举例: nn.ConvTranspose2d(1024, 512, kernel_size=4, stride=2, padding=1, bias=True)时,输入了1024个channel的feature map,输出应该是512个channel的feature map, 但是发现转化后的rknn模型输出仍然是1024, 也就是说out-channel这个参数无效了。  因此就是报错(或者推理结果不对)    因此貌似在转化反卷积convtranspose2d时有bug 。  这种情况在以前pytorch1.2.0+rknn1.4.0版本时是没有的。。。。

因此能否请相关人员检查一下? 是否是bug啊?  否则convtranspose就没办法使用了

谢谢!





作者: changchenliang    时间: 2021-4-15 18:19
顶一下哈!




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3