Toybrick

标题: onnx模型量化时reshape层报错 [打印本页]

作者: lbq0111 时间: 2020-7-8 14:31
标题: onnx模型量化时reshape层报错
onnx模型在不做量化时可以转换成功，但是在做量化时报错。报错内容是：无法将tensor:1x512x4x4 reshape 到1x512x1x1。在onnx模型中reshape对应的代码为 g = g.view(1, -1, 1, 1)，也就是说应将报错的tensor reshape到1x(512x4x4)x1x1。

我已确认onnx模型无误，十分不理解量化时reshape输出为1x512x1x1是rk从哪里读到的。

欢迎光临 Toybrick (https://t.rock-chips.com/)