Toybrick

标题: rk3399 pro 这个处理模型很慢么，希望继续优化 [打印本页]

作者: linuxsky 时间: 2019-2-16 09:08
标题: rk3399 pro 这个处理模型很慢么，希望继续优化
测试方法如下：

[toybrick@MiWiFi-R2D-srv mobilenet-ssd]$ /tmp/rknn_ssd
D RKNNAPI: ==============================================
D RKNNAPI: RKNN VERSION:
D RKNNAPI: API: 0.9.2 (c3b8dd3 build: 2018-12-29 15:45:16)
D RKNNAPI: DRV: 0.91 (237fb1a build: 2018-12-29 16:46:59)
D RKNNAPI: ==============================================
rknn_inputs_set : Total time : 0 s,2032 us
rknn_outputs_get : Total time : 0 s,23526 us
decodeCenterSizeBoxes : Total time : 0 s,20626 us
validCount: 9
scaleToInputSize : Total time : 0 s,25712 us
nms : Total time : 0 s,4 us

用官方程序统计了格格函数时间，发现 NPU 处理时间不多，可是其它的 api 函数就很慢了。希望能继续优化下，按照这个ssd 那个模型也就能跑到 7帧左右。

作者: jefferyzhang 时间: 2019-2-28 15:22
不明白你的意思。
rknn最慢的一个api是 init，需要把模型给npu初始化，加载，
而后run的时间和你用rknn工具统计的时间是差不多的。
其他api慢是什么意思？

作者: piccolo 时间: 2019-2-28 15:32
楼主说的其他api 应该是指的是从npu出来的数据后处理时也慢 decodeCenterSizeBoxes scaleToInputSize 都用了20多毫秒

官方demo的后处理分类是91个比较多。建议更换模型并只保留有用分类，后处理就会快一些。我目前只用了两分类

作者: zhangzj 时间: 2019-2-28 17:52
这只是个demo，后处理等其他代码没有经过优化，如果要实现应用，自行更改模型以及后处理代码流程。

欢迎光临 Toybrick (https://t.rock-chips.com/)