Toybrick

rv1126手动反量化的结果不对

piccolo

中级会员

积分
325
楼主
发表于 2025-1-2 11:16:47    查看: 376|回复: 0 | [复制链接]    打印 | 只看该作者
rv1126上使用普通rknn接口的时候,设置want_float = 1 ,能够拿到正确的输出
现在想使用zero copy接口,拿到数据后自己做反量化,但是发现反量化的结果不对
转换为rknn模型时候用的时非对称量化 u8,算法是normal。自己反量化的公式用的是(qnt-zp)*scale. 其中zp和scale是从对应的tensor属性里取到的。
想问的是,非对称u8量化,normal算法,用反量化公式(qnt-zp)*scale 是正确的吧?有没有可能query tensor 属性的时候,api返回zp和scale值不对?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表