Toybrick

生成rknn模型时,开启do_quantization=True后报错,不开启时正常

darkhorse

注册会员

积分
112
发表于 2021-4-1 16:23:13    查看: 560|回复: 14 | [复制链接]    打印 | 显示全部楼层
需求:

和开发沟通,需要帮忙提交一个redmine进行跟踪

现象:
在pytorch模型生成rknn时,开启量化do_quantization=True时报错,当do_quantization=False时正常。

报错日志:

D Process convolution_at_1639_204_204 ...
D RKNN output shape(convolution): (10 256 160 4)
D Process attach_convolution_at_1639_204_out0_214 ...
D RKNN output shape(output): (10 256 160 4)
I Build FairMOT complete.
E Catch exception when building RKNN model!
E Traceback (most recent call last):
E   File "rknn/api/rknn_base.py", line 578, in rknn.api.rknn_base.RKNNBase.build
E   File "rknn/api/rknn_base.py", line 1509, in rknn.api.rknn_base.RKNNBase._quantize2
E   File "rknn/base/RKNNlib/RK_nn.py", line 546, in rknn.base.RKNNlib.RK_nn.RKnn.quantize
E   File "rknn/base/RKNNlib/app/medusa/quantization.py", line 129, in rknn.base.RKNNlib.app.medusa.quantization.Quantization.run
E   File "rknn/base/RKNNlib/app/medusa/quantization.py", line 51, in rknn.base.RKNNlib.app.medusa.quantization.Quantization._run_quantization
E   File "rknn/base/RKNNlib/range/analyze_range.py", line 405, in rknn.base.RKNNlib.range.analyze_range.sparse_network
E   File "rknn/base/RKNNlib/range/analyze_range.py", line 313, in rknn.base.RKNNlib.range.analyze_range.analyze_operation
E   File "rknn/base/RKNNlib/range/analyze_range.py", line 290, in rknn.base.RKNNlib.range.analyze_range._a_add
E ValueError: operands could not be broadcast together with shapes (4096,) (64,)
Build FairMOT failed!


完整日志:附件


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

jefferyzhang

超级版主

积分
7583
发表于 2021-4-1 16:34:47 | 显示全部楼层
需要把你的原始模型+转换脚本一起放到一个网盘里发上来,仅凭log开发人员无法调试
回复

使用道具 举报

darkhorse

注册会员

积分
112
 楼主| 发表于 2021-4-1 16:42:14 | 显示全部楼层
jefferyzhang 发表于 2021-4-1 16:34
需要把你的原始模型+转换脚本一起放到一个网盘里发上来,仅凭log开发人员无法调试 ...

使用百度网盘吗?
回复

使用道具 举报

jefferyzhang

超级版主

积分
7583
发表于 2021-4-1 16:46:48 | 显示全部楼层
darkhorse 发表于 2021-4-1 16:42
使用百度网盘吗?

都可以,随意,能存就行。论坛发不了太大附件
回复

使用道具 举报

darkhorse

注册会员

积分
112
 楼主| 发表于 2021-4-1 16:47:37 | 显示全部楼层
jefferyzhang 发表于 2021-4-1 16:34
需要把你的原始模型+转换脚本一起放到一个网盘里发上来,仅凭log开发人员无法调试 ...

模型、转换脚本、以及日志已经上传到网盘。
链接:https://pan.baidu.com/s/1GXuSkIrqqGi_FNZWn38WTQ
提取码:ce0a
回复

使用道具 举报

jefferyzhang

超级版主

积分
7583
发表于 2021-4-1 17:30:57 | 显示全部楼层
已提交问题。


292718
回复

使用道具 举报

darkhorse

注册会员

积分
112
 楼主| 发表于 2021-4-2 09:33:32 | 显示全部楼层

帮忙给一个单号什么的,我这边好跟开发说,以便于我关注进度
回复

使用道具 举报

jefferyzhang

超级版主

积分
7583
发表于 2021-4-2 09:47:40 | 显示全部楼层
谢谢您的问题反馈,有进展我会回贴给您。
回复

使用道具 举报

darkhorse

注册会员

积分
112
 楼主| 发表于 5 天前 | 显示全部楼层
jefferyzhang 发表于 2021-4-2 09:47
谢谢您的问题反馈,有进展我会回贴给您。

这个问题有新的进度吗?目前是怎么样?
回复

使用道具 举报

jefferyzhang

超级版主

积分
7583
发表于 5 天前 | 显示全部楼层
darkhorse 发表于 2021-4-7 11:06
这个问题有新的进度吗?目前是怎么样?

暂无进度更新,有的话我会回帖给你
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表