Toybrick

标题: rk1808 SDK版本提升,推理速度变慢问题 [打印本页]

作者: zhuhairong    时间: 2019-7-15 15:34
标题: rk1808 SDK版本提升,推理速度变慢问题

rk1808 相同模型速度变慢:
rknn_server 0.9.4 (2078225 build: 2019-03-07 20:07:28)
librknn_runtime version 0.9.7 (1e5533c build: 2019-03-07 19:41:55 base: 1012)

此版本的推理速度是28ms, 使用rknn_toolkit 0.9.4 转换


rknn_server  0.9.7 (d65a37f build: 2019-05-31 14:23:01)
librknn_runtime version 0.9.9 (8f590bb build: 2019-05-31 14:21:09 base: 110)

此版本的推理速度是85ms,使用rknn_toolkit 1.0.0 和 rknn_toolkit 0.9.4 转换都是85ms

麻烦查找原因,有解决方法麻烦告知,谢谢!


作者: qiu    时间: 2019-7-15 17:44
你们用的硬件板子是?
作者: zhuhairong    时间: 2019-7-15 20:35
qiu 发表于 2019-7-15 17:44
你们用的硬件板子是?

RK_EVB_RK1808_LP3D178P132SD6_v12  2019-02-15_LINT
作者: zhuhairong    时间: 2019-7-16 19:39
rga的问题,rga转出来的图像不能直接给rknn用,需要拷贝到自己申请的内存,inputs set 就不会消耗太多时间。

是否inputs set 里面也使用了rga来格式转换 ? 但是老版本没有这个问题。
作者: qiu    时间: 2019-7-25 19:25
拿evb你们直接上redmine系统去咨询问题
作者: zhuhairong    时间: 2019-7-29 19:11
多谢,已提问。




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3