Toybrick

onnx模型量化时reshape层报错

lbq0111

新手上路

积分
35
楼主
发表于 2020-7-8 14:31:07    查看: 5827|回复: 0 | [复制链接]    打印 | 只看该作者
onnx模型在不做量化时可以转换成功,但是在做量化时报错。报错内容是:无法将tensor:1x512x4x4  reshape 到1x512x1x1。在onnx模型中reshape对应的代码为 g = g.view(1, -1, 1, 1),也就是说应将报错的tensor reshape到1x(512x4x4)x1x1。

我已确认onnx模型无误,十分不理解量化时reshape输出为1x512x1x1是rk从哪里读到的。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表