关于yolox的onnx模型转换的疑问请教

[复制链接] · 发表于 2022-10-11 14:36:18

本帖最后由 lmw0320 于 2022-10-11 14:58 编辑

看了官方给的yolov5s的onnx模型转换代码，其加载onnx文件的时候，需要指定下outputs层的位置。对yolov5s是['378', '439', '500']---这个是通过netron来查看定位的。

那对yolox的onnx文件，要具体定位在哪个数值呢？？
求指点。。

只看该作者 · 发表于 2022-10-11 14:50:54

顺便想请教下：
rk的板卡是否有类似英伟达中nvidia-smi的命令，来直接查看板卡存储空间占用等之类的信息的？有的话，具体命令是啥？

只看该作者 · 发表于 2022-10-11 17:26:48

本帖最后由 lmw0320 于 2022-10-11 17:44 编辑

我尝试转换出了rknn模型文件：
rknn.load_onnx(model=ONNX_MODEL) #, outputs=['875']) --这里outputs的点是查看onnx的输出确定的. 这里如果不设置outputs，其输出的预测值应该是最后一层的输出吧？？对YOLOX来说，其实应该也是可以的？？我看节点758与最后一层的输出，只是transpose操作了下。但是，我测试了outputs的设置与不设置，两种结果都是完全一样的（如设置了outputs，我在后处理前，额外做了一次transpose，这样实际和最后一层输出应该是一样的)。。
rknn.build(do_quantization=QUANTIZE_ON, dataset=DATASET)
rknn.export_rknn(RKNN_MODEL)
但是，不知道为什么我预测图片，发现预测出来的结果，与原始模型的预测结果还是有比较大的出入。RKNN预测出来的bbox数值比较小，导致除以ratio，放大到原始图片大小的时候，目标框的尺寸仍旧很小。。我不知道哪里出了问题。。
求指点。。

关于yolox的onnx模型转换的疑问请教

本帖子中包含更多资源

本帖子中包含更多资源