rga算法请教

[复制链接] · 发表于 2021-9-27 20:30:36

请问下rga的resize使用的是什么算法？因为发现得出的数值与opencv的resize方法有一点差异，且影响模型的精度，所以想请教下是哪种resize算法。

显示全部楼层 · 发表于 2021-9-30 10:57:50

关于放大时的插值算法，我们没有发现异常，暂且不讨论，我目前发现的数值误差产生于缩小时。如使用rga缩小1/2，按常理来说应该是取四个点的均值得到新的点，但实际得到的数值却与预期并非完全一致。因此需要咨询一下具体使用什么算法。

显示全部楼层 · 发表于 2021-9-30 14:44:23

jefferyzhang 发表于 2021-9-30 14:34
下采样是 avg，avg会根据缩放系数去取周边像素，硬件定点化跑出来的结果肯定和软件跑出来是有差异的，但是 ...

我们所需的就是“硬件定点化”的具体执行算法，是否可以提供一个伪代码描述或相关资料？因为这个误差已经实质上影响数值，并引入了不确定性。最奇怪的是，在一张图的不同位置，对rga的执行结果进行数值分析，发现竟然得到的结果是不一样的。那么是不是存在着一定的随机性。。。

显示全部楼层 · 发表于 2021-9-30 15:45:10

jefferyzhang 发表于 2021-9-30 15:08
你是什么板子？

rk3568开发板