rk3399推理问题

[复制链接] · 发表于 2020-11-13 11:25:13

在电脑ubuntu系统下跑rk模型的推理，上面写的模拟的rk1808，那这个脚本跑出来的时间开销和最后部署到rk3399pro android上的时间开销会差不多嘛？
然后在电脑上跑rknn.inference速度很慢，是因为每次都要模拟环境嘛，这部分怎么样可以加速嘛？

只看该作者 · 发表于 2020-11-13 12:18:56

1. 模拟有模拟的时间开销结果，实际运行pc肯定慢于1808. 打印出来的模拟时间开销和实际运行时间是理论时间，实际运行需要考虑运行频率、ddr带宽、资源占用率等诸多因素。
2. 电脑跑是仿真，当然慢。插个计算棒上去跑就快了

只看该作者 · 发表于 2020-11-13 14:44:06

谢谢！
所以如果我需要测试一批量化以后模型的结果，是不是插个计算棒或者同样的推理代码到rk3399pro的linux下面跑就会快很多？用rk的linux跑出来的时间跟android的会差不多嘛