Toybrick

为什么yolov3输出buffer的大小不对?

leok

版主

积分
894
楼主
发表于 2020-6-12 10:32:31 | 显示全部楼层
信息贴全一点;  这样截断性信息没办法分析问题。
rknn toolkit版本;  推理脚本; 哪个节点输出有问题;
回复

使用道具 举报

leok

版主

积分
894
沙发
发表于 2020-6-12 14:42:37 | 显示全部楼层
hzdxs 发表于 2020-6-12 13:58
推理脚本在下面贴出来了

rknn.config(channel_mean_value='0 0 0 0.003902', reorder_channel='2 1 0')
这个是在转模型时候的配置?
回复

使用道具 举报

leok

版主

积分
894
板凳
发表于 2020-8-5 16:24:56 | 显示全部楼层
hzdxs 发表于 2020-6-12 16:51
是的,我注释掉了

首先,这里有2个问题:
1、在转换模型时候“rknn.config(channel_mean_value='0 0 0 0.003902', reorder_channel='2 1 0')” ,是基于什么判断设置这些参数。 参看文档仔细理解这些参数设置的意思,参数设置不对,结果输出会不对。
2、请仔细理解下算法思路,确认明白算法每个分支输出的意思。    yolov3如果是原生paper给出的算法会做32、16、8倍下采样,按照输入是512x512计算,输出应该有 16x16x(4+1+类别数)、32x32x(4+1+类别数)、64x64x(4+1+类别数)。
3、可以尝试升级到rknn toolkit 1.3.2,再进行实验。
4、如果还是解决不了,可以把转换sample,原始模型,原始yolov3推理正确脚本,以及rknn推理smaple等,打包,发出来。

请多思考,多做实验,仔细理解算法思想。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表