rk3588 模型转换问题

[复制链接] · 发表于 2024-12-31 09:47:09

本帖最后由差不多得了于 2024-12-31 10:21 编辑

使用Lighttrack跟踪算法的onnx模型进行非量化转换以及推理。上图是模型的输出结果截图，其中左边是onnx模型输出结果，中间是模拟器rknn推理结果，右边是在rk3588上运行转换后的rknn实际运行结果，模拟器推理结果还算可以，但是rk3588的实测运行结果问题就很大了，虽然输出数据的尺寸结构没问题，但是却几乎都是重复结果。而且rk3588实际推理时不管输入图片是什么，输出数据都和上图右边一样没有变化，太离谱了，我也转换过其他类似模型，都没这个问题。会是转化出了问题吗，但如果是转换的问题，为啥类似的模型就没事呢
还有，我想看rk3588运行 rknn_run时的每一层输出，这个需要怎么操作呢

只看该作者 · 发表于 2024-12-31 14:41:02

比较典型的rknntoolkit版本与板子环境中rknnapi版本不一致的现象。
建议核对版本号，都更新至最新后再尝试。
另外打印每一层输出在rknn文档里有。

只看该作者 · 发表于 2024-12-31 16:55:50

jefferyzhang 发表于 2024-12-31 14:41
比较典型的rknntoolkit版本与板子环境中rknnapi版本不一致的现象。
建议核对版本号，都更新至最新后再尝试 ...

我把RKNN Server 和librknnrt.so库都换成最新的2.3版本了，pc端用的也是最新的rknntoolkit2.3版本转换模型，现在结果和之前还是一样，没有变化
那个NPU驱动是0.8.2，这个需要更新到最新版本吗

rk3588 模型转换问题

本帖子中包含更多资源