reid的ckpt.t7模型转rknn，rknn结果不正确问题，结果为负数-65536.

下载deepsort的pytorch库，地址：https://github.com/ZQPei/deep_sort_pytorch.git

想要将reid特征提取模型 ckpt.t7转为rknn模型，大概步骤是：

1. 将ckpt.t7模型转换为onnx模型代码如下：
import argparse
import torch
import numpy as np
import onnx
from deep_sort import build_tracker
from utils.draw import draw_boxes
from utils.parser import get_config

if __name__ == '__main__':
    parser = argparse.ArgumentParser()
    parser.add_argument("--config_deepsort", type=str, default="./configs/deep_sort.yaml", help='Configure tracker')
    parser.add_argument("--cpu", dest="use_cuda", action="store_false", default=True, help='Run in CPU')
    args = parser.parse_args()
    cfg = get_config()
    cfg.merge_from_file(args.config_deepsort)
    use_cuda = args.use_cuda and torch.cuda.is_available()
    torch.set_grad_enabled(False)
    model = build_tracker(cfg, use_cuda=False)
    model.reid = True
    model.extractor.net.eval()
    device = 'cuda' #'cuda'
    output_onnx = 'ckpt.onnx'
    # ------------------------ export -----------------------------
    print("==> Exporting model to ONNX format at '{}'".format(output_onnx))
    input_names = ['input']
    output_names = ['output']
    input_tensor = torch.randn(1, 3, 128, 64, device=device)
    # onnx
    torch.onnx.export(model.extractor.net.cpu(), input_tensor, output_onnx, export_params=True, verbose=True,
                      input_names=input_names, output_names=output_names, opset_version=10,
                      do_constant_folding=True)
2. 验证onnx模型，结果正确。

3. 将onnx转为rknn模型，转换方法为https://github.com/EASY-EAI/yolov5  中的rknn_convert.py,
   rknn正常转换成功，build成功。

4. 问题：推理ckpt.rknn模型时， rknn.inference输出的特征为负数，全部为-65536.
   推理代码如下：
   
RKNN_MODEL = "ckpt.rknn"
IMG_PATH = "images/2_0002.jpg"

model = load_model(RKNN_MODEL)
_rknn = model
img = cv2.imread(IMG_PATH) [:, :, (2, 1, 0)]
size = (64, 128)
_im = cv2.resize(img.astype(np.float32)/255., size)
# data preprocess
ave = [0.485, 0.456, 0.406]
stda = [0.229, 0.224, 0.225]
im = Z_ScoreNorm(_im, ave, stda) # normalization

im = np.transpose(im, (2, 0, 1)) # transform 3*128*64
im = np.expand_dims(im, axis=0) # input (1*3*128*64)
im = im.astype(np.float16)
pred_onx = _rknn.inference(inputs=[im],data_type='float16', data_format='nchw')  # 输入格式为nchw  , data_format='nchw'
print(pred_onx)   


请问有哪位大神能指点一下哪里出问题了吗？ 谢谢！
reid特征提取模型，ckpt.t7

关了量化和预编译后结果正确么？

jefferyzhang 发表于 2021-10-27 08:35
关了量化和预编译后结果正确么？

结果没有变化，也不正确。

Redly 发表于 2021-10-27 09:08
结果没有变化，也不正确。

rknn api和drv版本分别是多少

jefferyzhang 发表于 2021-10-27 10:44
rknn api和drv版本分别是多少

onnx1.6.0，rknn-toolkit1.6.0， 是在仿真环境中运行的。

仿真环境建议你用rknn-toolkit 1.7试下结果有没有区别

jefferyzhang 发表于 2021-10-27 12:02
仿真环境建议你用rknn-toolkit 1.7试下结果有没有区别

rknn-toolkit1.7.0 输出结果为0.，1. ...排列，也不是有效特征值。

Redly 发表于 2021-10-27 15:57
rknn-toolkit1.7.0 输出结果为0.，1. ...排列，也不是有效特征值。

0 1 是被量化的吧，不量化的结果呢？

你如果是FAE客户，可以直接向redmine提交问题单。
或者加入rknn qq群向他们直接提问。

如果想定位，可以dump出每一层看下从哪一层开始出问题的，请参看rknntoolkit提供的文档

jefferyzhang 发表于 2021-10-27 16:01
0 1 是被量化的吧，不量化的结果呢？

你如果是FAE客户，可以直接向redmine提交问题单。

好的，感谢，我已经向redmine提交问题单了

可以用下我转的，试试？
不需要做预处理归一化吗，我转的时候已经写进去了。