Toybrick

标题: RKNN模型转化问题: pytorch 转onnx 再转 rknn [打印本页]

作者: 281963347 时间: 2019-12-16 19:00
标题: RKNN模型转化问题: pytorch 转onnx 再转 rknn
报个一个问题:
模型: Pytorch 版本的retinaface
转化思路:先转成ONNX 再转成 RKNN
已实现: 在 pre_compile=False 模式下,转换成功,但是init_runtime 时间非常久,约10min. 另外 , API 不支持 Torch.cat 操作, 所以我是将
bbox_reg1, bbox_reg2, bbox_reg3, ldm_reg1, ldm_reg2, ldm_reg3, classif1, classif2, classif3
几个需要输出的 tensor 以元组的方式返回,然后用numpy.cat() 处理. rknn可以正确计算输出;
但是 ,在 pre_compile=True 模式下, 同等条件下无法正常 init_runtime, 即便时间很久. API 同样不支持 Torch.cat 操作 , 但经测试发现以元组方式返回不支持了 ,单个输出可以返回.
以列表方式返回也不支持. 因为无法用 Torch.cat ,所以也不能将这9个输出整合成一个 tensor . 求解决办法!!!
(此模式似乎只支持单个输出,已验证单输出pass ,但是多输出无论什么方式皆不行)

欢迎光临 Toybrick (https://t.rock-chips.com/)