rknn_inputs_set float16 问题

[复制链接] · 发表于 2021-2-1 17:25:23

本帖最后由 lalapay 于 2021-2-1 19:48 编辑

如何在rknn_inputs_set输入float16数据？
android JNI c++
mobilefacenet model，未量化。
rknn.load_pytorch(model=model_src, input_size_list=[[1, 100, 100]]) # load pytorch model.
rknn.build(do_quantization=False, dataset='./dataset.txt')

python 调用：直接输入原图数据(原始数据为8为深度图像,通过cv2.imread读取)
identification_output1 = mobilefacenet_rknn.inference(inputs=[image1])
但用rknn api时：
1、query结果，input数据类型为RKNN_TENSOR_FLOAT16
2、c好像不支持这种类型
3、原始数据为8为深度图像（unsigned char）
4、如何组织rknn_inputs_set的inputs?
inputs[0].index = 0;
inputs[0].buf =data?---->原图数据，还是必须转换为float16?
inputs[0].size=
inputs[0].pass_through=
inputs[0].type = RKNN_TENSOR_FLOAT16?
inputs[0].fmt = RKNN_TENSOR_NHWC;

一通乱尝试，始终得不到正确的结果。
请大佬指点。

只看该作者 · 发表于 2021-2-2 18:26:10

不知道是问题太小白还是其他，呵呵。
换个问题吧：
是否能详细说一下
RKNN_TENSOR_FLOAT16 格式到底是什么
1个符号位+几个。。。+几个。。。。,如何解析。
这样至少知道要转换到什么样子才能被model接受。
请指点。