YOLOV7模型转换报错

报错详情

W RKNN: [18:23:49.190] DatainEntries overflow, need to tiling more, datain_entries: 2560, limitation: 2048
W RKNN: [18:23:49.193] DatainEntries overflow, need to tiling more, datain_entries: 2560, limitation: 2048
W RKNN: [18:23:49.196] DatainEntries overflow, need to tiling more, datain_entries: 2560, limitation: 2048
W RKNN: [18:23:49.217] DatainEntries overflow, need to tiling more, datain_entries: 2560, limitation: 2048
W RKNN: [18:23:49.220] DatainEntries overflow, need to tiling more, datain_entries: 2560, limitation: 2048
W RKNN: [18:23:49.222] DatainEntries overflow, need to tiling more, datain_entries: 2560, limitation: 2048
Build model failed!
E build: Catch exception when building RKNN model!
E build: Traceback (most recent call last):
E build:   File "rknn/api/rknn_base.py", line 1580, in rknn.api.rknn_base.RKNNBase.build
E build:   File "rknn/api/rknn_base.py", line 341, in rknn.api.rknn_base.RKNNBase._generate_rknn
E build:   File "rknn/api/rknn_base.py", line 307, in rknn.api.rknn_base.RKNNBase._build_rknn
E build: IndexError: vector::_M_range_check: __n (which is 4) >= this->size() (which is 4)

这个是由于某一层的通道数大于2048造成的吗？

https://github.com/airockchip/yolov7

jefferyzhang 发表于 2023-2-27 11:40
https://github.com/airockchip/yolov7

我这边用的不是标准的yolov7，我想问一下
W RKNN: [18:23:49.222] DatainEntries overflow, need to tiling more, datain_entries: 2560, limitation: 2048
这个可能是什么原因造成的。然后我再看怎么修改我的模型。

这问题范围很大，你得跟下才能知道，warning部分都可以不用管，不会造成error，最主要是error的地方。
错误log在：E build: IndexError: vector::_M_range_check: __n (which is 4) >= this->size() (which is 4)

1. 先确认本身这个模型确实是torchscript模型，并且用torchscript是可以正常推理
2. 确定你用的toolkit是当前发布的最新版本
3. 如果你要是onnx模型，那onnx的版本必须要跟toolkit推荐版本一致，并且在toolkit环境下是可以用onnx推理并运行的
4. 建议用我发的可以转换的yolov7仓库，转完再回头去改你的改动，大致就能知道改到哪里报错的。