Toybrick»开源社区 › 技术论坛 › 人工智能 › 3399pro的量化精度

3399pro的量化精度

积分: 177

楼主

发表于 2019-3-1 09:10:43 | 显示全部楼层

PC Float跑出来的结果和量化后跑出来的结果进行对比是没有意义的，应该都用量化结果对数据集进行测试，得到ROC曲线，然后再对比float模型的精度

回复

使用道具举报

积分: 177

沙发

发表于 2019-3-6 10:57:22 | 显示全部楼层

可以设置量化的dataset来使量化参数更贴合实际的场景

回复

使用道具举报

返回列表

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick

瑞芯微电子股份有限公司所有闽ICP备19006074号-1 闽公网安备 35010202001061号

快速回复 返回顶部 返回列表