Toybrick

标题: onnx转rknn报错 [打印本页]

作者: liuwenhua    时间: 2020-5-20 16:07
标题: onnx转rknn报错
E:\usb_test\example\rknn_win_env\lib\site-packages\onnx_tf\common\__init__.py:87: UserWarning: FrontendHandler.get_outputs_names is deprecated. It will be removed in future release.. Use node.outputs instead.
  warnings.warn(message)
E Catch exception when loading onnx model: ./model_openpose.onnx!
E Traceback (most recent call last):
E   File "rknn\api\rknn_base.py", line 510, in rknn.api.rknn_base.RKNNBase.load_onnx
E   File "rknn\base\RKNNlib\converter\convert_onnx.py", line 494, in rknn.base.RKNNlib.converter.convert_onnx.convert_onnx.__init__
E   File "rknn\base\RKNNlib\converter\convert_onnx.py", line 502, in rknn.base.RKNNlib.converter.convert_onnx.convert_onnx.__init__
E   File "rknn\base\RKNNlib\converter\onnx_util.py", line 154, in rknn.base.RKNNlib.converter.onnx_util.ONNXProto_Util.optim_model
E   File "E:\usb_test\example\rknn_win_env\lib\site-packages\onnx\optimizer.py", line 55, in optimize
E     optimized_model_str = C.optimize(model_str, passes)
E IndexError: invalid unordered_map<K, T> key
Load model failed!


作者: jefferyzhang    时间: 2020-5-20 16:30
先试下你的onnx模型能不能被onnx正确加载和推理
作者: undefined    时间: 2020-5-20 16:32
rknn_toolkit调用了ONNX的optimizer进行图优化,optimizer需要读取权重值,因此需要把所有的初始化权重都放到ONNX计算图的input中。
具体pytorch是export时候设置keep_initializers_as_inputs=True
作者: liuwenhua    时间: 2020-5-20 16:41
jefferyzhang 发表于 2020-5-20 16:30
先试下你的onnx模型能不能被onnx正确加载和推理

onnx模型是可以正常推理的
作者: jefferyzhang    时间: 2020-5-20 16:48
请提供:
rknntoolkit版本号
onnx版本号
onnx模型和转换脚本。

(如果你rknntoolkit不是在1.3.2上测试的,请更新rknntoolkit到1.3.2测试后再报bug)
作者: liuwenhua    时间: 2020-5-20 17:25
jefferyzhang 发表于 2020-5-20 16:48
请提供:
rknntoolkit版本号
onnx版本号

rknntoolkit是1.3.2
onnx是1.4.1
模型链接  链接:https://pan.baidu.com/s/1OJXfVwToJCpsqxcoGJK_kg
提取码:5qmh

转换代码如下

from rknn.api import RKNN
import cv2
import time
import numpy as np

if __name__ == '__main__':

    # Create RKNN object
    rknn = RKNN(verbose=True)
   
    # pre-process config
    print('--> config model')
    # 配置模型输入,用于NPU对数据输入的预处理
    # channel_mean_value='0 0 0 255',那么模型推理时,将会对RGB数据做如下转换
    # (R - 0)/255, (G - 0)/255, (B - 0)/255。推理时,RKNN模型会自动做均值和归一化处理
    # reorder_channel=’0 1 2’用于指定是否调整RBG顺序,设置成0 1 2即按输入的RGB顺序不做调整
    # reorder_channel=’2 1 0’表示交换0和2通道,如果输入是RGB,将会被调整为BGR。如果是BGR将会被
    # 调整为BGR   
    rknn.config(channel_mean_value='0 0 0 1', reorder_channel='0 1 2')
    print('done')

    # Load tensorflow model
    ret = rknn.load_onnx(model = './model_openpose.onnx')
    if ret != 0:
        print('Load model failed!')
        exit(ret)
    print('done')

    # Build model
    print('--> Building model')

    ret = rknn.build(do_quantization=False)
    #ret = rknn.build(do_quantization=True, dataset='./datasets.txt')
    if ret != 0:
        print('Build model failed!')
        exit(ret)
    print('done')
    # Export rknn model
    print('--> Export RKNN model')
    ret = rknn.export_rknn('./model_openpose_test.rknn')
    if ret != 0:
        print('Export model failed!')
        exit(ret)
    print('done')

    rknn.release()






作者: jefferyzhang    时间: 2020-5-21 08:47
已经上报了
作者: liuwenhua    时间: 2020-5-21 10:44
jefferyzhang 发表于 2020-5-21 08:47
已经上报了

期待好消息
作者: liuwenhua    时间: 2020-5-22 09:34
jefferyzhang 发表于 2020-5-21 08:47
已经上报了

上报,有消息吗?谢谢
作者: jefferyzhang    时间: 2020-5-22 10:04
liuwenhua 发表于 2020-5-22 09:34
上报,有消息吗?谢谢

哪有这么快,急的话你们要通过FAE报告bug。这里只是社区而已,单向收集问题。
他们有回复我的话我才会回你们
作者: jefferyzhang    时间: 2020-5-25 17:45
NPU Team回复:
你的网盘地址里没有你说的onnx模型,请提供下?253466

作者: liuwenhua    时间: 2020-5-26 14:07
jefferyzhang 发表于 2020-5-25 17:45
NPU Team回复:
你的网盘地址里没有你说的onnx模型,请提供下?253466

链接:https://pan.baidu.com/s/1HESgXo9TzcQQXxXMic3nxw
提取码:wqp0


不好意思,分享错文件了

作者: Chambers    时间: 2020-5-26 18:42
同样的问题,请教一下如何解决?
作者: liuwenhua    时间: 2020-6-5 10:18
jefferyzhang 发表于 2020-5-25 17:45
NPU Team回复:
你的网盘地址里没有你说的onnx模型,请提供下?253466

NPU组有消息?
作者: jefferyzhang    时间: 2020-6-5 10:58
liuwenhua 发表于 2020-6-5 10:18
NPU组有消息?

NPU组只有说下个版本修复
作者: jefferyzhang    时间: 2020-9-11 09:37
1.4.0已经修复该问题,请及时测试反馈




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3