Toybrick

rk3399 pro 这个 处理模型很慢么,希望继续优化

linuxsky

注册会员

积分
151
楼主
发表于 2019-2-16 09:08:50    查看: 8305|回复: 3 | [复制链接]    打印 | 只看该作者
测试方法如下:

[toybrick@MiWiFi-R2D-srv mobilenet-ssd]$ /tmp/rknn_ssd
D RKNNAPI: ==============================================
D RKNNAPI: RKNN VERSION:
D RKNNAPI:   API: 0.9.2 (c3b8dd3 build: 2018-12-29 15:45:16)
D RKNNAPI:   DRV: 0.91 (237fb1a build: 2018-12-29 16:46:59)
D RKNNAPI: ==============================================
rknn_inputs_set : Total time : 0 s,2032 us
rknn_outputs_get : Total time : 0 s,23526 us
decodeCenterSizeBoxes : Total time : 0 s,20626 us
validCount: 9
scaleToInputSize : Total time : 0 s,25712 us
nms : Total time : 0 s,4 us



用官方程序统计了 格格函数时间,发现 NPU 处理时间不多 ,可是 其它的 api 函数就很慢了。 希望能继续优化下,按照这个ssd 那个模型也就能跑到 7帧 左右。
回复

使用道具 举报

jefferyzhang

版主

积分
13578
沙发
发表于 2019-2-28 15:22:10 | 只看该作者
不明白你的意思。
rknn最慢的一个api是 init,需要把模型给npu初始化,加载,
而后run的时间和你用rknn工具统计的时间是差不多的。
其他api慢是什么意思?
回复

使用道具 举报

piccolo

中级会员

积分
316
板凳
发表于 2019-2-28 15:32:36 | 只看该作者
楼主说的其他api  应该是指的是从npu出来的数据 后处理时也慢 decodeCenterSizeBoxes scaleToInputSize 都用了20多毫秒

官方demo的后处理分类是91个 比较多。 建议更换模型 并只保留有用分类,后处理就会快一些。我目前只用了两分类
回复

使用道具 举报

zhangzj

超级版主

积分
1117
地板
发表于 2019-2-28 17:52:34 | 只看该作者
这只是个demo,后处理等其他代码没有经过优化,如果要实现应用,自行更改模型以及后处理代码流程。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表