3399pro的量化精度

显示全部楼层 · 发表于 2019-2-27 20:48:18

从模型转换之后体积减小一半来猜测：即使quantization=False的情况下也做了Float16的量化。

显示全部楼层 · 发表于 2019-3-6 23:44:09

nila 发表于 2019-3-6 15:51
@yhc
不是很理解这个dataset是什么作用，应该放一些什么样的图片进去呢？
目前是放了一张图，推理也是用 ...

我猜是放特征分布符合实际推理时候使用的图的图放进去给量化做参照。