Toybrick

标题: rk3399推理问题 [打印本页]

作者: xuchengggg 时间: 2020-11-13 11:25
标题: rk3399推理问题
在电脑ubuntu系统下跑rk模型的推理，上面写的模拟的rk1808，那这个脚本跑出来的时间开销和最后部署到rk3399pro android上的时间开销会差不多嘛？
然后在电脑上跑rknn.inference速度很慢，是因为每次都要模拟环境嘛，这部分怎么样可以加速嘛？

作者: jefferyzhang 时间: 2020-11-13 12:18
1. 模拟有模拟的时间开销结果，实际运行pc肯定慢于1808. 打印出来的模拟时间开销和实际运行时间是理论时间，实际运行需要考虑运行频率、ddr带宽、资源占用率等诸多因素。
2. 电脑跑是仿真，当然慢。插个计算棒上去跑就快了

作者: xuchengggg 时间: 2020-11-13 14:44
谢谢！
所以如果我需要测试一批量化以后模型的结果，是不是插个计算棒或者同样的推理代码到rk3399pro的linux下面跑就会快很多？用rk的linux跑出来的时间跟android的会差不多嘛

欢迎光临 Toybrick (https://t.rock-chips.com/)