Toybrick

标题: 为什么yolov3输出buffer的大小不对? [打印本页]

作者: hzdxs    时间: 2020-6-11 16:12
标题: 为什么yolov3输出buffer的大小不对?
以下是打印的信息:
input tensors:
    index=0 name= n_dims=4 dims=[1 3 512 512] n_elems=786432 size=786432 fmt=0 type=3 qnt_type=2 fl=0 zp=0 scale=256.003265
output tensors:
    index=0 name= n_dims=4 dims=[1 81 16 16] n_elems=20736 size=20736 fmt=0 type=3 qnt_type=2 fl=0 zp=215 scale=1629.417725
    rknn_init success!
然后我再rknn_run之后,获取output.buf数据的同时,也获取了output.size,结果却是20736的4倍,我的理解是,既然最后一层输出的float类型数据,那么应该size=20736,
另外后面的scale=1629.417725是什么意思?
output.size:82944


作者: leok    时间: 2020-6-12 10:32
信息贴全一点;  这样截断性信息没办法分析问题。
rknn toolkit版本;  推理脚本; 哪个节点输出有问题;
作者: hzdxs    时间: 2020-6-12 13:37
网络是我们自定义的网络,输入1 3 512 512 输出1 81 16 16这都是对的,但是输出的数据size貌似不对,理论上应该是20736 ,但事实上确实20736 *4,我看输出的数据类型是float类型,那么意味着不应该再X4了。
作者: hzdxs    时间: 2020-6-12 13:38
hisping 发表于 2020-6-12 11:10
你跑的是论坛上的demo吗?你是不是改了代码?为什么输入是512x512的?论坛上已经有yolov3的demo了,你可以 ...

我们自定义的网络。没有用官方原生的。
作者: hzdxs    时间: 2020-6-12 13:44
#coding:utf-8
import numpy as np
import cv2
from rknn.api import RKNN
import math
def sigd(x):
    return 1/(1 +math.exp(-x))
img = cv2.imread('bike.jpg')
img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
img = cv2.resize(img, (512,512), interpolation=cv2.INTER_CUBIC)
rknn = RKNN()
#rknn.config(channel_mean_value='0 0 0 0.003902', reorder_channel='2 1 0')
ret = rknn.load_rknn(path='bike.rknn')
if ret!=0:
   print('load rknn fail')
print('--> Init runtime ')
ret = rknn.init_runtime()
if ret != 0:
   print('Init runtime fail')
   exit()
import time
start_time=time.time()
print('--> Running model ')
outputs = rknn.inference(inputs=[img])
end_time=time.time()
end_time=end_time-start_time
raw_res=outputs[0]
print(raw_res.shape,type(raw_res[0]),raw_res.size)
作者: hzdxs    时间: 2020-6-12 13:50
这个是从caffe上抓取的最后一层的数据:
dataf:-0.2726,0.8238,0.4719,0.0641,0.1514,0.1482,0.2272,0.1473,
下面是rknn推理得到的数据,明显不对
[ 3258.8354  1629.4177  3258.8354  1629.4177 -1629.4177 -1629.4177   0.      1629.4177]
作者: hzdxs    时间: 2020-6-12 13:58
leok 发表于 2020-6-12 10:32
信息贴全一点;  这样截断性信息没办法分析问题。
rknn toolkit版本;  推理脚本; 哪个节点输出有问题; ...

推理脚本在下面贴出来了
作者: leok    时间: 2020-6-12 14:42
hzdxs 发表于 2020-6-12 13:58
推理脚本在下面贴出来了

rknn.config(channel_mean_value='0 0 0 0.003902', reorder_channel='2 1 0')
这个是在转模型时候的配置?
作者: hzdxs    时间: 2020-6-12 16:51
leok 发表于 2020-6-12 14:42
rknn.config(channel_mean_value='0 0 0 0.003902', reorder_channel='2 1 0')
这个是在转模型时候的配置 ...

是的,我注释掉了
作者: leok    时间: 2020-8-5 16:24
hzdxs 发表于 2020-6-12 16:51
是的,我注释掉了

首先,这里有2个问题:
1、在转换模型时候“rknn.config(channel_mean_value='0 0 0 0.003902', reorder_channel='2 1 0')” ,是基于什么判断设置这些参数。 参看文档仔细理解这些参数设置的意思,参数设置不对,结果输出会不对。
2、请仔细理解下算法思路,确认明白算法每个分支输出的意思。    yolov3如果是原生paper给出的算法会做32、16、8倍下采样,按照输入是512x512计算,输出应该有 16x16x(4+1+类别数)、32x32x(4+1+类别数)、64x64x(4+1+类别数)。
3、可以尝试升级到rknn toolkit 1.3.2,再进行实验。
4、如果还是解决不了,可以把转换sample,原始模型,原始yolov3推理正确脚本,以及rknn推理smaple等,打包,发出来。

请多思考,多做实验,仔细理解算法思想。




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3