Toybrick

标题: 转换后模型的输入类型问题 [打印本页]

作者: linpanda    时间: 2019-9-27 17:32
标题: 转换后模型的输入类型问题
用rknn toolkit转换了几个模型,在经过多次测试调试后均可使用rknn toolkit跑出结果。但是发现一个疑问。有的模型转换后输入是float32类型才能有正确结果,有的模型则是uint8,并没有在转换的过程中有类似的设置,望大神解答!!


作者: troy    时间: 2019-9-29 08:29
输入类型是由模型决定的,不是转换过程决定的
作者: linpanda    时间: 2019-9-29 15:24
troy 发表于 2019-9-29 08:29
输入类型是由模型决定的,不是转换过程决定的

好的。。另外有个问题。我在板子上跑C API的时候遇到一个报错
E RKNNAPI: rknn_input_set,  inputs[0].buf wrong, buf = 0x7fa5c5c040, size = 6220800 (min_size = 24883200)!

这个错误是说我的输入大了超过大小还是过小??
作者: linpanda    时间: 2019-9-29 15:40
hisping 发表于 2019-9-29 15:30
从报错信息看,是你的数据太小了
  1. inputs[0].index = 0;
  2. inputs[0].buf = img.data;
  3. inputs[0].size = img_width * img_height * img_channels;
  4. inputs[0].pass_through = false;
  5. inputs[0].type = RKNN_TENSOR_FLOAT32;
  6. inputs[0].fmt = RKNN_TENSOR_NHWC;
复制代码

代码使这样的,pass_through设置为false不是会降数据格式转化成type和fmt一样的格式再传入网络吗?我自己将img里的数据类型转为float报相同的错误




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3