Toybrick

预编译对模型的推理速度有怎样的影响?

jefferyzhang

版主

积分
12952
楼主
发表于 2020-7-9 15:36:29 | 显示全部楼层
预编译只对读取模型时间有影响,能提高load_model/init速度,对推理无影响。
没有预编译的模型在读取时候需要花时间编译,所以读取速度会变慢,仅此而已。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表