Toybrick

楼主: ddcat1991

onnx模型转换为rknn模型, 输出结果不正确

ddcat1991

注册会员

积分
126
 楼主| 发表于 2020-3-31 16:04:31 | 显示全部楼层
本帖最后由 ddcat1991 于 2020-3-31 16:06 编辑
jefferyzhang 发表于 2020-3-31 14:22
NPU部门回复:
在 onnx_edit.py 里, rknn.config 漏掉了一个参数 reorder_channel='0 1 2', rknn.inferen ...

是这个问题,添上就解决了,板子上推理也正确了。谢谢版主!( toolkit 1.3.0-NPU, 1.3.1-PC 都ok )
回复

使用道具 举报

zengwubin

中级会员

积分
274
发表于 2020-4-6 11:04:33 | 显示全部楼层
ddcat1991 发表于 2020-3-31 16:04
是这个问题,添上就解决了,板子上推理也正确了。谢谢版主!( toolkit 1.3.0-NPU, 1.3.1-PC 都ok ) ...

onnx_edit.py 这个文件在哪里,没找到啊
回复

使用道具 举报

zengwubin

中级会员

积分
274
发表于 2020-4-6 11:49:17 | 显示全部楼层
请问转换rknn时你是怎么移除softmax层的,能不能详细讲下谢谢我用1MB with landmars 转换时卡在knn-softmanx出来的结果全是1了
回复

使用道具 举报

ddcat1991

注册会员

积分
126
 楼主| 发表于 2020-4-7 10:26:41 | 显示全部楼层
zengwubin 发表于 2020-4-6 11:49
请问转换rknn时你是怎么移除softmax层的,能不能详细讲下谢谢我用1MB with landmars 转换时卡在k ...

把1mb vision/ssd/ssd.py 里  forward函数下 从94 行开始 "confidences = F.softmax(confidences, dim=2)" 和后面的注释掉就可以了
回复

使用道具 举报

sotnly

新手上路

积分
31
发表于 2020-6-5 14:26:14 | 显示全部楼层
大佬,我也刚好在哢这个模型,有好些问题,有偿求助,可以的话加我QQ:405631964,谢谢了
回复

使用道具 举报

sotnly

新手上路

积分
31
发表于 2020-6-5 14:42:15 | 显示全部楼层
我也是用Ultra-Light-Fast-Generic-Face-Detector-1MB,这个的RFB-640的模型,我做了相应的裁剪,然后也用onnxsim做了模型简化,但是当我把简化的模型转为rknn的时候就报错了:

IndexError:_Map_base::at
我百度了,说是我的torch.onnx.export需要个  keep_initializers_as_inputs 这个参数,我现在的版本根本就没有这个参数,我的就是pytorch1.2.0直接转的onnx1.4.1的,所以不知道该怎么继续,如果你也有这个经历,麻烦告知,谢谢
回复

使用道具 举报

yongxin3344520

新手上路

积分
18
QQ
发表于 2020-9-27 15:02:13 | 显示全部楼层
jefferyzhang 发表于 2020-3-2 09:52
还有我看你都是在板子上操作,请先核对下npu-drv版本号和toolkit是不是匹配,是否都是1.3.0.
驱动不对的话 ...

请问,如何查看 npu-drv版本号 和 toolkit 版本 ? npu-drv版本如何升级 ?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表