|
|
本帖最后由 NeonEcho 于 2025-6-5 16:46 编辑
版主您好！
硬件：RK3588 Ubuntu20.04
NPU：driver 0.9.2 + librknnrt 2.2.0
现象：程序中rknn_inputs_set函数正常在2ms左右，单进程测试很稳定，但是在CPU占用300+（后台开了几个进程，存opencv处理，不涉及npu）的时候，rknn_inputs_set耗时偶发的增加到8ms，而且一旦异常，基本就在8ms左右，异常的频次不一定，可能几帧到10几帧不一定
我也对比了rknn_run接口，情况类似，可能是因为模型部分算子没有量化，在CPU上运行的
对于这种情况，有没有办法让耗时稳定下来呢？哪怕慢一点也可以
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看，没有帐号？立即注册
x
|
收藏
闽公网安备 35010202001061号