Toybrick

模型推理耗时3.5秒

bobby_jiang

高级会员

积分
540
楼主
发表于 2021-4-19 14:51:41 | 显示全部楼层
这个耗时是模拟器的?还是计算棒的?是量化的,还是没量化的?如果量化的,用的是什么量化方法?
你把代码贴一下,看看是不是有跑到计算棒上。
回复

使用道具 举报

bobby_jiang

高级会员

积分
540
沙发
发表于 2021-5-7 10:09:18 | 显示全部楼层
你这个模型中包含大量的mish op,现在这个op的性能比较低,建议你用relu去替换mish。
这样性能应该可以提高很多
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表