Toybrick

标题: 4通道图像输入，量化报错 [打印本页]

作者: engin 时间: 2019-3-27 10:40
标题: 4通道图像输入，量化报错
本帖最后由 engin 于 2019-3-27 11:14 编辑

模型输入需要4通道的图像，config中增加一通道的方式报错：
rknn.config(channel_mean_value='103.94 116.78 123.68 12 58.82', reorder_channel='2 1 0 3')

不量化可以转成功，量化报错：

E Catch exception when building RKNN model!

T Traceback (most recent call last):

T   File "rknn/api/rknn_base.py", line 470, in rknn.api.rknn_base.RKNNBase.build

T   File "rknn/api/rknn_base.py", line 889, in rknn.api.rknn_base.RKNNBase._quantize

T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 176, in rknn.base.rknnlib.app.tensorzone.workspace.Workspace.init_image_process

T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 185, in rknn.base.rknnlib.app.tensorzone.workspace.Workspace.init_image_process

T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 85, in rknn.base.rknnlib.app.tensorzone.workspace.proc_tensor

T UnboundLocalError: local variable 'scale' referenced before assignment
复制代码

作者: raul 时间: 2019-3-27 14:38
目前暂时不支持4通道的输入。可以在前面加个reshape，将3维转成4维。

作者: chuyee 时间: 2019-3-27 14:57
本帖最后由 chuyee 于 2019-3-27 14:59 编辑

does npy in dataset.txt work?

作者: engin 时间: 2019-3-27 17:46

chuyee 发表于 2019-3-27 14:57
does npy in dataset.txt work?

npy文件和png图片文件效果一样，报错也是一样的

作者: engin 时间: 2019-3-27 17:48
已解决：rknn.config() 不传参数进行调用，量化可以正常。
多谢 raul chuyee

作者: protossw512 时间: 2019-5-2 01:38

engin 发表于 2019-3-27 17:48
已解决：rknn.config() 不传参数进行调用，量化可以正常。
多谢 raul chuyee

你好，请问你4通道输入之后输出的结果正确吗？

作者: engin 时间: 2019-5-4 00:26

protossw512 发表于 2019-5-2 01:38
你好，请问你4通道输入之后输出的结果正确吗？

传入0~255的图像数据输出是正确的

作者: protossw512 时间: 2019-5-4 08:55

engin 发表于 2019-5-4 00:26
传入0~255的图像数据输出是正确的

谢谢了，我这边出了点问题，rgbd的数据rgb是-1~1， d是0~1，结果输出结果和用tf直接输出不一样，还在研究中

作者: engin 时间: 2019-5-25 16:34

protossw512 发表于 2019-5-4 08:55
谢谢了，我这边出了点问题，rgbd的数据rgb是-1~1， d是0~1，结果输出结果和用tf直接输出不一样，还在研究 ...

好久没看消息，你的方式成功了吗 -1~1的范围我们这边测试也是失败的，用的caffe模型

作者: protossw512 时间: 2019-6-15 01:50

engin 发表于 2019-5-25 16:34
好久没看消息，你的方式成功了吗 -1~1的范围我们这边测试也是失败的，用的caffe模型 ...

并没有，我们放弃了，不知道1.0.0行不行

欢迎光临 Toybrick (https://t.rock-chips.com/)