请教，安卓JNI层和Linux系统下调用C++接口是否存在差异

[复制链接] · 发表于 2024-5-14 10:48:26

求教，同一个模型文件（未做量化），运行与载入代码均相同，在Linux系统下调用C++接口执行推理耗时大概4~5ms（仅计算rknn_run方法运行时间）
在安卓JNI层调用C++接口执行推理需要14~24ms，时间大约差异4到5倍左右，
请问这个是正常的吗，大概是什么原因导致的？

只看该作者 · 发表于 2024-5-14 11:37:04

不会有这么大差异，请运行起来后统计inference接口前后的时间

只看该作者 · 发表于 2024-5-15 17:27:20

我们的问题，计时函数不一致，打扰了