Toybrick

楼主: nila

3399pro的量化精度

nila

注册会员

积分
109
11#
 楼主| 发表于 2019-3-6 15:51:46 | 只看该作者
yhc 发表于 2019-3-6 10:57
可以设置量化的dataset来使量化参数更贴合实际的场景

@yhc
不是很理解这个dataset是什么作用,应该放一些什么样的图片进去呢?
目前是放了一张图,推理也是用同一张。
回复

使用道具 举报

程子

中级会员

积分
386
12#
发表于 2019-3-6 23:44:09 | 只看该作者
nila 发表于 2019-3-6 15:51
@yhc
不是很理解这个dataset是什么作用,应该放一些什么样的图片进去呢?
目前是放了一张图,推理也是用 ...

我猜是放特征分布符合实际推理时候使用的图的图放进去给量化做参照。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表