多输入时,通道顺序为何会乱? Python接口怎么用多输入?

为啥不直接用pytorch模型转rknn试试？

1. 顺序不一致要再看下，我们还在确认这个问题中
2. name可以通过Netron看
3. 多输入python请参看教程有写，文档也有写
4. 不明白你说的多输入形状不一致是什么意思，如果是多个input节点当然是可以的，如果是多batch当然是不行的

NPU部门回复：
1.支持多输入多输出，多个输入时shape可以不一样，但是输入要按照nchw的格式，具体可以参考my_multiple_input_test.py；
2.目前pytorch和onnx暂不支持lstm，tensorflow有些可以支持；

my_multiple_input_test.py：

1. import torch
   
2. from rknn.api import RKNN
   
3. import numpy as np
   
4. 
   
5. class Net(torch.nn.Module):
   
6. 
   
7.     def __init__(self):
   
8.         super(Net, self).__init__()
   
9. 
   
10.         self.conv1 = torch.nn.Conv2d(1,6,3)
    
11.         self.conv2 = torch.nn.Conv2d(2,12,3)
    
12.         self.conv3 = torch.nn.Conv2d(3,24,3)
    
13. 
    
14.     def forward(self, x, y, z):
    
15.         x = self.conv1(x)
    
16.         y = self.conv2(y)
    
17.         z = self.conv3(z)
    
18. 
    
19.         return x,y,z
    
20. 
    
21. def E_D(vector1, vector2):
    
22.     print(np.linalg.norm(vector1 - vector2))
    
23. 
    
24. def cos_d(vector1, vector2):
    
25.     d = np.dot(vector1, vector2) / (np.linalg.norm(vector1) * (np.linalg.norm(vector2)))
    
26.     print(d)
    
27. 
    
28. 
    
29. if __name__ == '__main__':
    
30. 
    
31.     net = Net()
    
32.     i1 = torch.rand(1,1,5,5)
    
33.     i2 = torch.rand(1,2,7,7)
    
34.     i3 = torch.rand(1,3,9,9)
    
35.     trace_model = torch.jit.trace(net, (i1,i2,i3))
    
36.     trace_model.save('test.pt')
    
37. 
    
38. 
    
39.     rknn = RKNN(verbose=True)
    
40.     rknn.config(batch_size=1,
    
41.                 channel_mean_value='0 1#0 0 1#0 0 0 1',
    
42.                 reorder_channel='0 1 2#0 1 2#0 1 2',
    
43.                 epochs=1)
    
44. 
    
45.     ret = rknn.load_pytorch(model='test.pt', input_size_list=[[1,5,5],[2,7,7],[3,9,9]])
    
46.     # ret = rknn.load_onnx(model='lstm{128x64}.pt.onnx')
    
47.     if ret != 0:
    
48.         print('Load pytorch model failed!')
    
49.         exit(ret)
    
50. 
    
51.     ret = rknn.build(do_quantization=False, dataset='./dataset.txt')
    
52.     if ret != 0:
    
53.         print('Build pytorch failed!')
    
54.         exit(ret)
    
55. 
    
56.     ret = rknn.init_runtime(target='rk1808',device_id='7e9f3eb02ede60e8')
    
57.     if ret != 0:
    
58.         print('Init runtime environment failed')
    
59.         exit(ret)
    
60. 
    
61. 
    
62.     rknn_r = rknn.inference(inputs=[i1.numpy(), i2.numpy(), i3.numpy()],
    
63.                             data_type='float32',
    
64.                             data_format='nchw')
    
65.     pytorch_r = net(i1,i2,i3)
    
66. 
    
67. 
    
68.     for d1, d2 in zip(rknn_r, pytorch_r):
    
69.         d1 = d1.ravel()
    
70.         d2 = d2.detach().numpy().ravel()
    
71. 
    
72.         E_D(d1, d2)
    
73.         cos_d(d1, d2)
    
74. 
    
75.         print()
    
76. 
    
77. 
    

复制代码