Toybrick

标题: rknn_inputs_set偶发耗时异常问题 [打印本页]

作者: NeonEcho 时间: 前天 16:38
标题: rknn_inputs_set偶发耗时异常问题
本帖最后由 NeonEcho 于 2025-6-5 16:46 编辑

版主您好！

硬件：RK3588 Ubuntu20.04
NPU：driver 0.9.2 + librknnrt 2.2.0

现象：程序中rknn_inputs_set函数正常在2ms左右，单进程测试很稳定，但是在CPU占用300+（后台开了几个进程，存opencv处理，不涉及npu）的时候，rknn_inputs_set耗时偶发的增加到8ms，而且一旦异常，基本就在8ms左右，异常的频次不一定，可能几帧到10几帧不一定
[attach]3145[/attach][attach]3148[/attach][attach]3147[/attach]

我也对比了rknn_run接口，情况类似，可能是因为模型部分算子没有量化，在CPU上运行的
对于这种情况，有没有办法让耗时稳定下来呢？哪怕慢一点也可以

欢迎光临 Toybrick (https://t.rock-chips.com/)