Toybrick

标题: 生成rknn模型时，开启do_quantization=True后报错，不开启时正常 [打印本页]

作者: darkhorse 时间: 2021-4-1 16:23
标题: 生成rknn模型时，开启do_quantization=True后报错，不开启时正常
需求：

和开发沟通，需要帮忙提交一个redmine进行跟踪

现象：
在pytorch模型生成rknn时，开启量化do_quantization=True时报错，当do_quantization=False时正常。

报错日志：

D Process convolution_at_1639_204_204 ...
D RKNN output shape(convolution): (10 256 160 4)
D Process attach_convolution_at_1639_204_out0_214 ...
D RKNN output shape(output): (10 256 160 4)
I Build FairMOT complete.
E Catch exception when building RKNN model!
E Traceback (most recent call last):
E File "rknn/api/rknn_base.py", line 578, in rknn.api.rknn_base.RKNNBase.build
E File "rknn/api/rknn_base.py", line 1509, in rknn.api.rknn_base.RKNNBase._quantize2
E File "rknn/base/RKNNlib/RK_nn.py", line 546, in rknn.base.RKNNlib.RK_nn.RKnn.quantize
E File "rknn/base/RKNNlib/app/medusa/quantization.py", line 129, in rknn.base.RKNNlib.app.medusa.quantization.Quantization.run
E File "rknn/base/RKNNlib/app/medusa/quantization.py", line 51, in rknn.base.RKNNlib.app.medusa.quantization.Quantization._run_quantization
E File "rknn/base/RKNNlib/range/analyze_range.py", line 405, in rknn.base.RKNNlib.range.analyze_range.sparse_network
E File "rknn/base/RKNNlib/range/analyze_range.py", line 313, in rknn.base.RKNNlib.range.analyze_range.analyze_operation
E File "rknn/base/RKNNlib/range/analyze_range.py", line 290, in rknn.base.RKNNlib.range.analyze_range._a_add
E ValueError: operands could not be broadcast together with shapes (4096,) (64,)
Build FairMOT failed!

完整日志：附件

作者: jefferyzhang 时间: 2021-4-1 16:34
需要把你的原始模型+转换脚本一起放到一个网盘里发上来，仅凭log开发人员无法调试

作者: darkhorse 时间: 2021-4-1 16:42

jefferyzhang 发表于 2021-4-1 16:34
需要把你的原始模型+转换脚本一起放到一个网盘里发上来，仅凭log开发人员无法调试 ...

使用百度网盘吗？

作者: jefferyzhang 时间: 2021-4-1 16:46

darkhorse 发表于 2021-4-1 16:42
使用百度网盘吗？

都可以，随意，能存就行。论坛发不了太大附件

作者: darkhorse 时间: 2021-4-1 16:47

jefferyzhang 发表于 2021-4-1 16:34
需要把你的原始模型+转换脚本一起放到一个网盘里发上来，仅凭log开发人员无法调试 ...

模型、转换脚本、以及日志已经上传到网盘。
链接：https://pan.baidu.com/s/1GXuSkIrqqGi_FNZWn38WTQ
提取码：ce0a

作者: jefferyzhang 时间: 2021-4-1 17:30
已提交问题。

292718

作者: darkhorse 时间: 2021-4-2 09:33

jefferyzhang 发表于 2021-4-1 17:30
已提交问题。

帮忙给一个单号什么的，我这边好跟开发说，以便于我关注进度

作者: jefferyzhang 时间: 2021-4-2 09:47
谢谢您的问题反馈，有进展我会回贴给您。

作者: darkhorse 时间: 2021-4-7 11:06

jefferyzhang 发表于 2021-4-2 09:47
谢谢您的问题反馈，有进展我会回贴给您。

这个问题有新的进度吗？目前是怎么样？

作者: jefferyzhang 时间: 2021-4-7 11:09

darkhorse 发表于 2021-4-7 11:06
这个问题有新的进度吗？目前是怎么样？

暂无进度更新，有的话我会回帖给你

作者: darkhorse 时间: 2021-4-8 09:10

jefferyzhang 发表于 2021-4-7 11:09
暂无进度更新，有的话我会回帖给你

帮忙给一个redmine号，我这边方便查询，感谢

作者: jefferyzhang 时间: 2021-4-8 09:54

darkhorse 发表于 2021-4-8 09:10
帮忙给一个redmine号，我这边方便查询，感谢

内部redmine，你查不到的。
请问你是FAE客户么，如果是的话可以自己再提交一次这问题。
我这里提交路径跟FAE走的不一样

作者: darkhorse 时间: 2021-4-8 10:02

jefferyzhang 发表于 2021-4-8 09:54
内部redmine，你查不到的。
请问你是FAE客户么，如果是的话可以自己再提交一次这问题。
我这里提交路径跟 ...

我走开发这边查询，开发说能够通过redmine号查询

作者: jefferyzhang 时间: 2021-4-8 10:08

darkhorse 发表于 2021-4-8 10:02
我走开发这边查询，开发说能够通过redmine号查询

292718

作者: jefferyzhang 时间: 2021-4-9 08:45
请尝试该临时版本是否修复了该问题：

链接：https://pan.baidu.com/s/1gr_DFpT_TBst7IRHelezqA
提取码：rknn

欢迎光临 Toybrick (https://t.rock-chips.com/)