Toybrick

Rk1808 fp16模型模拟测试的推理速度 与 板端推理速度相差很大

BW1994

注册会员

积分
60
发表于 2023-5-25 15:36:26    查看: 1842|回复: 1 | [复制链接]    打印 | 显示全部楼层
RK1808 fp16模型 模拟测试的推理速度为270多ms,但是在开发板NPU上推理速度是600多ms,为什么会有这么大的差别呢?
回复

使用道具 举报

jefferyzhang

版主

积分
13177
发表于 2023-5-29 17:17:32 | 显示全部楼层
以板子为准,仿真只是大概的范围,会受到很多带宽因素影响不是很准
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表