Toybrick

模型量化时batch_size只能设置为1,否在会报错

gssg123

注册会员

积分
111
楼主
发表于 2020-7-1 11:27:14    查看: 6659|回复: 4 | [复制链接]    打印 | 显示全部楼层
在转换onnx模型时,进行量化时,如果batch_size设置为大于1,会报错
E ValueError: Cannot reshape a tensor with 1732800 elements to shape [1,8664] (8664 elements) for 'Reshape_989_7/Reshape_989_7' (op: 'Reshape') with input shapes: [200,19,19,24], [2] and with input tensors computed as partial shapes: input[1] = [1,8664].
--> Model process failed!


回复

使用道具 举报

gssg123

注册会员

积分
111
沙发
 楼主| 发表于 2020-7-1 18:34:19 | 显示全部楼层
leok 发表于 2020-7-1 14:26
rknn toolkit版本请更新到1.3.2

使用的时候已经更新到1.3.2
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表