Toybrick»开源社区 › 技术论坛 › 人工智能 › Rk1808 fp16模型模拟测试的推理速度与板端推理速度相 ...

Rk1808 fp16模型模拟测试的推理速度与板端推理速度相差很大

积分: 60

楼主

发表于 2023-5-25 15:36:26 查看: 2723|回复: 1 | [复制链接]

| 只看该作者

RK1808 fp16模型模拟测试的推理速度为270多ms，但是在开发板NPU上推理速度是600多ms，为什么会有这么大的差别呢？

回复

使用道具举报

积分: 13578

沙发

发表于 2023-5-29 17:17:32 | 只看该作者

以板子为准，仿真只是大概的范围，会受到很多带宽因素影响不是很准

回复

使用道具举报

返回列表

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick

瑞芯微电子股份有限公司所有闽ICP备19006074号-1 闽公网安备 35010202001061号

快速回复 返回顶部 返回列表