生成rknn模型时，开启do_quantization=True后报错，不开启时正常

需求：

和开发沟通，需要帮忙提交一个redmine进行跟踪

现象：
在pytorch模型生成rknn时，开启量化do_quantization=True时报错，当do_quantization=False时正常。

报错日志：

D Process convolution_at_1639_204_204 ...
D RKNN output shape(convolution): (10 256 160 4)
D Process attach_convolution_at_1639_204_out0_214 ...
D RKNN output shape(output): (10 256 160 4)
I Build FairMOT complete.
E Catch exception when building RKNN model!
E Traceback (most recent call last):
E   File "rknn/api/rknn_base.py", line 578, in rknn.api.rknn_base.RKNNBase.build
E   File "rknn/api/rknn_base.py", line 1509, in rknn.api.rknn_base.RKNNBase._quantize2
E   File "rknn/base/RKNNlib/RK_nn.py", line 546, in rknn.base.RKNNlib.RK_nn.RKnn.quantize
E   File "rknn/base/RKNNlib/app/medusa/quantization.py", line 129, in rknn.base.RKNNlib.app.medusa.quantization.Quantization.run
E   File "rknn/base/RKNNlib/app/medusa/quantization.py", line 51, in rknn.base.RKNNlib.app.medusa.quantization.Quantization._run_quantization
E   File "rknn/base/RKNNlib/range/analyze_range.py", line 405, in rknn.base.RKNNlib.range.analyze_range.sparse_network
E   File "rknn/base/RKNNlib/range/analyze_range.py", line 313, in rknn.base.RKNNlib.range.analyze_range.analyze_operation
E   File "rknn/base/RKNNlib/range/analyze_range.py", line 290, in rknn.base.RKNNlib.range.analyze_range._a_add
E ValueError: operands could not be broadcast together with shapes (4096,) (64,)
Build FairMOT failed!


完整日志：附件

需要把你的原始模型+转换脚本一起放到一个网盘里发上来，仅凭log开发人员无法调试

jefferyzhang 发表于 2021-4-1 16:34
需要把你的原始模型+转换脚本一起放到一个网盘里发上来，仅凭log开发人员无法调试 ...

使用百度网盘吗？

darkhorse 发表于 2021-4-1 16:42
使用百度网盘吗？

都可以，随意，能存就行。论坛发不了太大附件

jefferyzhang 发表于 2021-4-1 16:34
需要把你的原始模型+转换脚本一起放到一个网盘里发上来，仅凭log开发人员无法调试 ...

模型、转换脚本、以及日志已经上传到网盘。
链接：https://pan.baidu.com/s/1GXuSkIrqqGi_FNZWn38WTQ
提取码：ce0a

已提交问题。


292718

jefferyzhang 发表于 2021-4-1 17:30
已提交问题。

帮忙给一个单号什么的，我这边好跟开发说，以便于我关注进度

谢谢您的问题反馈，有进展我会回贴给您。

jefferyzhang 发表于 2021-4-2 09:47
谢谢您的问题反馈，有进展我会回贴给您。

这个问题有新的进度吗？目前是怎么样？

darkhorse 发表于 2021-4-7 11:06
这个问题有新的进度吗？目前是怎么样？

暂无进度更新，有的话我会回帖给你