转换后模型的输入类型问题

[复制链接] · 发表于 2019-9-27 17:32:45

用rknn toolkit转换了几个模型，在经过多次测试调试后均可使用rknn toolkit跑出结果。但是发现一个疑问。有的模型转换后输入是float32类型才能有正确结果，有的模型则是uint8，并没有在转换的过程中有类似的设置，望大神解答！！

只看该作者 · 发表于 2019-9-29 08:29:57

输入类型是由模型决定的，不是转换过程决定的

只看该作者 · 发表于 2019-9-29 15:24:11

troy 发表于 2019-9-29 08:29
输入类型是由模型决定的，不是转换过程决定的

好的。。另外有个问题。我在板子上跑C API的时候遇到一个报错
E RKNNAPI: rknn_input_set, inputs[0].buf wrong, buf = 0x7fa5c5c040, size = 6220800 (min_size = 24883200)!

这个错误是说我的输入大了超过大小还是过小？？

只看该作者 · 发表于 2019-9-29 15:40:21

hisping 发表于 2019-9-29 15:30
从报错信息看，是你的数据太小了

inputs[0].index = 0;

inputs[0].buf = img.data;

inputs[0].size = img_width * img_height * img_channels;

inputs[0].pass_through = false;

inputs[0].type = RKNN_TENSOR_FLOAT32;

inputs[0].fmt = RKNN_TENSOR_NHWC;

复制代码

代码使这样的，pass_through设置为false不是会降数据格式转化成type和fmt一样的格式再传入网络吗？我自己将img里的数据类型转为float报相同的错误