Toybrick

标题: Rk1808 fp16模型模拟测试的推理速度与板端推理速度相差很大 [打印本页]

作者: BW1994 时间: 2023-5-25 15:36
标题: Rk1808 fp16模型模拟测试的推理速度与板端推理速度相差很大
RK1808 fp16模型模拟测试的推理速度为270多ms，但是在开发板NPU上推理速度是600多ms，为什么会有这么大的差别呢？

作者: jefferyzhang 时间: 2023-5-29 17:17
以板子为准，仿真只是大概的范围，会受到很多带宽因素影响不是很准

欢迎光临 Toybrick (https://t.rock-chips.com/)