pytorch模型转换问题

显示全部楼层 · 发表于 2020-4-3 16:31:32

rlgl 发表于 2020-4-3 15:32
您好，在只使用一个卷积层和bn层的情况下，使用相同的输入，pytorch模型的输出和rknn模型（由pytorch模型 ...

你先试下beta7版本，他们同样的问题已经解决了。还有差异最好在不量化时候也测试下

链接：https://pan.baidu.com/s/1DuLeBawfoBP62mu0ADNGAA
提取码：qtys

显示全部楼层 · 发表于 2020-4-6 08:26:33

rlgl 发表于 2020-4-5 15:33
您好，beta7版本nn.Transpose2d输入输出维度正常。但另一个问题：在使用相同输入情况下，pytorch模型输出 ...

不量化差异大么？
如果不量化差异也大，就要dump出每一层看下哪层有问题。
如果量化差异大，那就用混合量化，把差异大的层改成不量化