Toybrick

resnet中add op量化后损失变大。

xiaqing10

高级会员

积分
572
楼主
发表于 2020-7-9 14:17:34    查看: 5537|回复: 3 | [复制链接]    打印 | 显示全部楼层
backbone采用的resnet50,不量化的模型的输出和pytorch很接近,大约是千分位的差别。
而量化后差别很大,采用混合量化发现是resnet中的add的问题。
这个add在rknn内部是卷积替代的么,才会导致量化差别这么大 。 并且我在转模型的时候指定 optimization_level=0,还是一样在这层出现很大误差。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表