RK3588 CPU占用很高导致卡顿

[复制链接] · 发表于 2023-5-11 18:28:34

本帖最后由 sdp 于 2023-5-11 18:32 编辑

使用NPU_CORE_0_1_2调用NPU进行目标检测推理，CPU只占用15%左右。但我再添加其他功能以及更多后处理之后，CPU占用到80%-90%导致卡顿。请问如何在后处理以及实现其他功能时也调用NPU，GPU等进行处理加速呢？

只看该作者 · 发表于 2023-5-15 16:10:31

RKNN只能调度NPU和CPU处理。

只看该作者 · 发表于 2023-5-15 16:56:55

jefferyzhang 发表于 2023-5-15 16:10
RKNN只能调度NPU和CPU处理。

rknn模型推理已经使用了NPU，请问在后处理部分（有一个高维矩阵计算）能再调度NPU或者GPU处理吗？

只看该作者 · 发表于 2023-5-15 17:01:35

sdp 发表于 2023-5-15 16:56
rknn模型推理已经使用了NPU，请问在后处理部分（有一个高维矩阵计算）能再调度NPU或者GPU处理吗？ ...

没有所谓的用什么处理，嵌入式运算单元不会做重复的事，npu是计算MAC运算单元（maxpooring、relu、conv），其他通用计算都是调用CPU处理的。你想用GPU处理是需要自己开发代码来做的，可以用opencl的接口来做，或者找一些支持嵌入式gpu的AI框架试试。

只看该作者 · 发表于 2023-5-15 17:09:20

jefferyzhang 发表于 2023-5-15 17:01
没有所谓的用什么处理，嵌入式运算单元不会做重复的事，npu是计算MAC运算单元（maxpooring、relu、conv） ...

好的，了解，感谢大佬！