Toybrick

楼主: Redly

reid的ckpt.t7模型转rknn,rknn结果不正确问题,结果为负数-65536.

Redly

注册会员

积分
69
QQ
 楼主| 发表于 2021-10-28 18:52:36 | 显示全部楼层
xiaqing10 发表于 2021-10-28 10:10
可以用下我转的,试试?
不需要做预处理归一化吗,我转的时候已经写进去了。
...

非常感谢!
我用您给的模型测试,结果是正确的。
我在转模型的时候没有做归一化预处理,只是在rknn推理的时候做了归一化预处理。
请问,您是在onnx转rknn的时候做的归一化预处理吗?能稍微详细说明一下是怎么做的吗?
感谢感谢!!!
回复

使用道具 举报

xiaqing10

高级会员

积分
563
发表于 2021-10-29 09:23:32 | 显示全部楼层
Redly 发表于 2021-10-28 18:52
非常感谢!
我用您给的模型测试,结果是正确的。
我在转模型的时候没有做归一化预处理,只是在rknn推理的 ...

不管啥时候做归一化都可以啊,偷懒的话转的时候做,不偷懒的话推断的时候做,两者取其一即可,反正是预处理而已。
回复

使用道具 举报

Redly

注册会员

积分
69
QQ
 楼主| 发表于 2021-10-29 16:14:19 | 显示全部楼层
xiaqing10 发表于 2021-10-29 09:23
不管啥时候做归一化都可以啊,偷懒的话转的时候做,不偷懒的话推断的时候做,两者取其一即可,反正是预处 ...

我看了您给我的rknn模型结构,发现我转的最后reshape之后接的是L2_Normalize, 与您的不一样。
想问一下,torch7转onnx时,您是怎么设置的呢?还有onnx转rknn的时候,rknn.config中mean/std参数是不是就是[0.485, 0.456, 0.406], [0.229, 0.224, 0.225] ?附件是我转的模型,麻烦您帮忙看看

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表