Toybrick

rknn_inputs_set float16 问题

lalapay

注册会员

积分
65
发表于 2021-2-1 17:25:23    查看: 7974|回复: 1 | [复制链接]    打印 | 显示全部楼层
本帖最后由 lalapay 于 2021-2-1 19:48 编辑

如何在rknn_inputs_set输入float16数据?
android JNI c++
mobilefacenet model,未量化。
rknn.load_pytorch(model=model_src, input_size_list=[[1, 100, 100]])  # load pytorch model.
rknn.build(do_quantization=False, dataset='./dataset.txt')


python 调用:直接输入原图数据(原始数据为8为深度图像,通过cv2.imread读取)
identification_output1 = mobilefacenet_rknn.inference(inputs=[image1])
但用rknn api时:
1、query结果,input数据类型为RKNN_TENSOR_FLOAT16
2、c好像不支持这种类型
3、原始数据为8为深度图像(unsigned char)
4、如何组织rknn_inputs_set的inputs?
inputs[0].index = 0;
inputs[0].buf =data?---->原图数据,还是必须转换为float16?
inputs[0].size=
inputs[0].pass_through=
inputs[0].type = RKNN_TENSOR_FLOAT16?
inputs[0].fmt = RKNN_TENSOR_NHWC;


一通乱尝试,始终得不到正确的结果。
请大佬指点。



回复

使用道具 举报

lalapay

注册会员

积分
65
 楼主| 发表于 2021-2-2 18:26:10 | 显示全部楼层
不知道是问题太小白还是其他,呵呵。
换个问题吧:
是否能详细说一下
RKNN_TENSOR_FLOAT16 格式到底是什么
1个符号位+几个。。。+几个。。。。,如何解析。
这样至少知道要转换到什么样子才能被model接受。
请指点。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表