Toybrick

标题: rv1126手动反量化的结果不对 [打印本页]

作者: piccolo 时间: 2025-1-2 11:16
标题: rv1126手动反量化的结果不对
rv1126上使用普通rknn接口的时候，设置want_float = 1 ，能够拿到正确的输出
现在想使用zero copy接口，拿到数据后自己做反量化，但是发现反量化的结果不对
转换为rknn模型时候用的时非对称量化 u8，算法是normal。自己反量化的公式用的是（qnt-zp）*scale. 其中zp和scale是从对应的tensor属性里取到的。
想问的是，非对称u8量化，normal算法，用反量化公式（qnt-zp）*scale 是正确的吧？有没有可能query tensor 属性的时候，api返回zp和scale值不对？

欢迎光临 Toybrick (https://t.rock-chips.com/)