Toybrick

rk1808 SDK版本提升,推理速度变慢问题

zhuhairong

注册会员

积分
148
楼主
发表于 2019-7-15 15:34:41    查看: 8277|回复: 5 | [复制链接]    打印 | 只看该作者

rk1808 相同模型速度变慢:
rknn_server 0.9.4 (2078225 build: 2019-03-07 20:07:28)
librknn_runtime version 0.9.7 (1e5533c build: 2019-03-07 19:41:55 base: 1012)

此版本的推理速度是28ms, 使用rknn_toolkit 0.9.4 转换


rknn_server  0.9.7 (d65a37f build: 2019-05-31 14:23:01)
librknn_runtime version 0.9.9 (8f590bb build: 2019-05-31 14:21:09 base: 110)

此版本的推理速度是85ms,使用rknn_toolkit 1.0.0 和 rknn_toolkit 0.9.4 转换都是85ms

麻烦查找原因,有解决方法麻烦告知,谢谢!

回复

使用道具 举报

qiu

超级版主

积分
1152
沙发
发表于 2019-7-15 17:44:40 | 只看该作者
你们用的硬件板子是?
回复

使用道具 举报

zhuhairong

注册会员

积分
148
板凳
 楼主| 发表于 2019-7-15 20:35:40 | 只看该作者
qiu 发表于 2019-7-15 17:44
你们用的硬件板子是?

RK_EVB_RK1808_LP3D178P132SD6_v12  2019-02-15_LINT
回复

使用道具 举报

zhuhairong

注册会员

积分
148
地板
 楼主| 发表于 2019-7-16 19:39:59 | 只看该作者
rga的问题,rga转出来的图像不能直接给rknn用,需要拷贝到自己申请的内存,inputs set 就不会消耗太多时间。

是否inputs set 里面也使用了rga来格式转换 ? 但是老版本没有这个问题。
回复

使用道具 举报

qiu

超级版主

积分
1152
5#
发表于 2019-7-25 19:25:53 | 只看该作者
拿evb你们直接上redmine系统去咨询问题
回复

使用道具 举报

zhuhairong

注册会员

积分
148
6#
 楼主| 发表于 2019-7-29 19:11:48 | 只看该作者
多谢,已提问。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表