Toybrick

楼主: zhuhairong

模型转换,量化的一些问题

jefferyzhang

超级版主

积分
7736
发表于 2019-8-13 23:27:49 | 显示全部楼层
abcehac 发表于 2019-8-13 22:19
噢!!原来是这个逻辑!那我是不是也应该放进去一些假的图片或者说不在我label内的图片,这样是不是能起 ...

量化不是训练!!!
量化只是把浮点转定点,运算速度快而已
回复

使用道具 举报

abcehac

注册会员

积分
114
发表于 2019-8-14 12:48:05 | 显示全部楼层
jefferyzhang 发表于 2019-8-13 23:27
量化不是训练!!!
量化只是把浮点转定点,运算速度快而已

哈哈哈哈, 看来我又想多了……
回复

使用道具 举报

呱唧

注册会员

积分
59
发表于 2020-4-2 18:04:00 | 显示全部楼层
jefferyzhang 发表于 2019-8-8 14:00
量化提高了速度,降低了成本。正常来说肯定是量化图片越多精度越高。
不开启量化默认是用FP16,可以手动 ...

do_quantization设置成False的时候默认是FP16吗?那要怎么设置成FP32呢?
回复

使用道具 举报

jefferyzhang

超级版主

积分
7736
发表于 2020-4-2 18:08:28 | 显示全部楼层
呱唧 发表于 2020-4-2 18:04
do_quantization设置成False的时候默认是FP16吗?那要怎么设置成FP32呢?

混合量化后一层层改fp32.
不提供直接的接口,因为没人用
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表