Toybrick

RKNN模型转化问题: pytorch 转onnx 再转 rknn

281963347

新手上路

积分
24
楼主
发表于 2019-12-16 19:00:32    查看: 6983|回复: 0 | [复制链接]    打印 | 只看该作者
报个一个问题:
模型: Pytorch 版本的retinaface
转化思路:先转成ONNX 再转成 RKNN
已实现: 在 pre_compile=False 模式下,转换成功,但是init_runtime 时间非常久,约10min. 另外 , API 不支持 Torch.cat 操作, 所以我是将
bbox_reg1, bbox_reg2, bbox_reg3, ldm_reg1, ldm_reg2, ldm_reg3, classif1, classif2, classif3
几个需要输出的 tensor 以 元组的方式返回,然后用numpy.cat() 处理.   rknn可以正确计算输出;
但是 ,在  pre_compile=True 模式下, 同等条件下无法正常 init_runtime, 即便时间很久. API  同样不支持  Torch.cat 操作 , 但经测试发现 以元组方式返回不支持了 ,单个输出可以返回.
以列表方式返回也不支持. 因为 无法用  Torch.cat ,所以也不能将 这9个输出整合成一个 tensor .  求解决办法!!!
(此模式似乎只支持单个输出,已验证单输出pass ,但是多输出无论什么方式皆不行)


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表