Toybrick

4通道图像输入,量化报错

engin

中级会员

积分
222
发表于 2019-3-27 10:40:59    查看: 2556|回复: 9 | [复制链接]    打印 | 显示全部楼层
本帖最后由 engin 于 2019-3-27 11:14 编辑

模型输入需要4通道的图像,config中增加一通道的方式报错:
rknn.config(channel_mean_value='103.94 116.78 123.68 12 58.82', reorder_channel='2 1 0 3')

不量化可以转成功,量化报错:
  1. E Catch exception when building RKNN model!
  2. T Traceback (most recent call last):
  3. T   File "rknn/api/rknn_base.py", line 470, in rknn.api.rknn_base.RKNNBase.build
  4. T   File "rknn/api/rknn_base.py", line 889, in rknn.api.rknn_base.RKNNBase._quantize
  5. T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 176, in rknn.base.rknnlib.app.tensorzone.workspace.Workspace.init_image_process
  6. T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 185, in rknn.base.rknnlib.app.tensorzone.workspace.Workspace.init_image_process
  7. T   File "rknn/base/rknnlib/app/tensorzone/workspace.py", line 85, in rknn.base.rknnlib.app.tensorzone.workspace.proc_tensor
  8. T UnboundLocalError: local variable 'scale' referenced before assignment
复制代码



回复

使用道具 举报

raul

中级会员

积分
215
发表于 2019-3-27 14:38:20 | 显示全部楼层
目前暂时不支持4通道的输入。可以在前面加个reshape,将3维转成4维。
回复

使用道具 举报

chuyee

中级会员

积分
352
发表于 2019-3-27 14:57:59 | 显示全部楼层
本帖最后由 chuyee 于 2019-3-27 14:59 编辑

does npy in dataset.txt work?
回复

使用道具 举报

engin

中级会员

积分
222
 楼主| 发表于 2019-3-27 17:46:16 | 显示全部楼层
chuyee 发表于 2019-3-27 14:57
does npy in dataset.txt work?

npy文件和png图片文件效果一样,报错也是一样的
回复

使用道具 举报

engin

中级会员

积分
222
 楼主| 发表于 2019-3-27 17:48:06 | 显示全部楼层
已解决:rknn.config() 不传参数进行调用,量化可以正常。
多谢 raul chuyee
回复

使用道具 举报

protossw512

中级会员

积分
252
发表于 2019-5-2 01:38:12 | 显示全部楼层
engin 发表于 2019-3-27 17:48
已解决:rknn.config() 不传参数进行调用,量化可以正常。
多谢 raul chuyee

你好,请问你4通道输入之后输出的结果正确吗?
回复

使用道具 举报

engin

中级会员

积分
222
 楼主| 发表于 2019-5-4 00:26:13 | 显示全部楼层
protossw512 发表于 2019-5-2 01:38
你好,请问你4通道输入之后输出的结果正确吗?

传入0~255的图像数据输出是正确的
回复

使用道具 举报

protossw512

中级会员

积分
252
发表于 2019-5-4 08:55:28 | 显示全部楼层
engin 发表于 2019-5-4 00:26
传入0~255的图像数据输出是正确的

谢谢了,我这边出了点问题,rgbd的数据rgb是-1~1, d是0~1,结果输出结果和用tf直接输出不一样,还在研究中
回复

使用道具 举报

engin

中级会员

积分
222
 楼主| 发表于 2019-5-25 16:34:30 | 显示全部楼层
protossw512 发表于 2019-5-4 08:55
谢谢了,我这边出了点问题,rgbd的数据rgb是-1~1, d是0~1,结果输出结果和用tf直接输出不一样,还在研究 ...

好久没看消息,你的方式成功了吗  -1~1的范围我们这边测试也是失败的,用的caffe模型
回复

使用道具 举报

protossw512

中级会员

积分
252
发表于 2019-6-15 01:50:00 | 显示全部楼层
engin 发表于 2019-5-25 16:34
好久没看消息,你的方式成功了吗  -1~1的范围我们这边测试也是失败的,用的caffe模型 ...

并没有,我们放弃了,不知道1.0.0行不行
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表