Toybrick

模型量化时batch_size只能设置为1,否在会报错

lbq0111

新手上路

积分
35
楼主
发表于 2020-7-8 10:06:35 | 显示全部楼层
跟楼主遇到同样的问题,我是用30张图片做量化;
看楼主的提问应该是用了200个batch,安照rknn.py里面:
  1.         if rknn_batch_size <= 0 or rknn_batch_size > 128:
  2.             self.rknn_log.rknn_e('The rknn_batch_size is invalid (<=0 or >128), please set the correct value.')
  3.             return -1
复制代码

200个batch也过大了
回复

使用道具 举报

lbq0111

新手上路

积分
35
沙发
发表于 2020-7-8 14:23:33 | 显示全部楼层
做量化的onnx需要是支持动态batch的
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表