4通道图像输入，量化报错

[复制链接] · 发表于 2019-3-27 10:40:59

本帖最后由 engin 于 2019-3-27 11:14 编辑

模型输入需要4通道的图像，config中增加一通道的方式报错：
rknn.config(channel_mean_value='103.94 116.78 123.68 12 58.82', reorder_channel='2 1 0 3')

不量化可以转成功，量化报错：

E Catch exception when building RKNN model!

T Traceback (most recent call last):

T   File "rknn/api/rknn_base.py", line 470, in rknn.api.rknn_base.RKNNBase.build

T   File "rknn/api/rknn_base.py", line 889, in rknn.api.rknn_base.RKNNBase._quantize

T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 176, in rknn.base.rknnlib.app.tensorzone.workspace.Workspace.init_image_process

T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 185, in rknn.base.rknnlib.app.tensorzone.workspace.Workspace.init_image_process

T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 85, in rknn.base.rknnlib.app.tensorzone.workspace.proc_tensor

T UnboundLocalError: local variable 'scale' referenced before assignment
复制代码

只看该作者 · 发表于 2019-3-27 14:38:20

目前暂时不支持4通道的输入。可以在前面加个reshape，将3维转成4维。

只看该作者 · 发表于 2019-3-27 14:57:59

本帖最后由 chuyee 于 2019-3-27 14:59 编辑

does npy in dataset.txt work?

只看该作者 · 发表于 2019-3-27 17:46:16

chuyee 发表于 2019-3-27 14:57
does npy in dataset.txt work?

npy文件和png图片文件效果一样，报错也是一样的

只看该作者 · 发表于 2019-3-27 17:48:06

已解决：rknn.config() 不传参数进行调用，量化可以正常。
多谢 raul chuyee

只看该作者 · 发表于 2019-5-2 01:38:12

engin 发表于 2019-3-27 17:48
已解决：rknn.config() 不传参数进行调用，量化可以正常。
多谢 raul chuyee

你好，请问你4通道输入之后输出的结果正确吗？

只看该作者 · 发表于 2019-5-4 00:26:13

protossw512 发表于 2019-5-2 01:38
你好，请问你4通道输入之后输出的结果正确吗？

传入0~255的图像数据输出是正确的

只看该作者 · 发表于 2019-5-4 08:55:28

engin 发表于 2019-5-4 00:26
传入0~255的图像数据输出是正确的

谢谢了，我这边出了点问题，rgbd的数据rgb是-1~1， d是0~1，结果输出结果和用tf直接输出不一样，还在研究中

只看该作者 · 发表于 2019-5-25 16:34:30

protossw512 发表于 2019-5-4 08:55
谢谢了，我这边出了点问题，rgbd的数据rgb是-1~1， d是0~1，结果输出结果和用tf直接输出不一样，还在研究 ...

好久没看消息，你的方式成功了吗 -1~1的范围我们这边测试也是失败的，用的caffe模型

只看该作者 · 发表于 2019-6-15 01:50:00

engin 发表于 2019-5-25 16:34
好久没看消息，你的方式成功了吗 -1~1的范围我们这边测试也是失败的，用的caffe模型 ...

并没有，我们放弃了，不知道1.0.0行不行