3399pro的量化精度

只看该作者 · 发表于 2019-3-6 15:51:46

yhc 发表于 2019-3-6 10:57
可以设置量化的dataset来使量化参数更贴合实际的场景

@yhc
不是很理解这个dataset是什么作用，应该放一些什么样的图片进去呢？
目前是放了一张图，推理也是用同一张。

只看该作者 · 发表于 2019-3-6 23:44:09

nila 发表于 2019-3-6 15:51
@yhc
不是很理解这个dataset是什么作用，应该放一些什么样的图片进去呢？
目前是放了一张图，推理也是用 ...

我猜是放特征分布符合实际推理时候使用的图的图放进去给量化做参照。