Toybrick

标题: rknn.config中的参数如何设置？ [打印本页]

作者: kepurSong 时间: 2019-10-18 09:45
标题: rknn.config中的参数如何设置？
本帖最后由 kepurSong 于 2019-10-18 10:06 编辑

  我现在跑的unet分割模型，在服务器上面分割效果很好，但是移植到板子上面，分割的效果极差。
  原本模型权重转化流程：.h5=>.pb=>.rknn  有没有开启量化？这个实际检验分割效果是一样的，只是量化后的速度快点。现在严重怀疑，分割的效果是错误的？但是，在服务器上面是正确的！
  现在怀疑是，转为rknn的时候，config设置的问题？关于这个的设置，我还不明白，如果设置不正确，影响大吗？如何正确设置！

作者: jefferyzhang 时间: 2019-10-18 12:12
config是做归一化用的，这里写了归一操作前处理代码里就要删掉，否则就重复运算了。
reorder channel输入和模型输入是一样的就是0 1 2，如果你前处理输入和模型输入的通道顺序有变，这里就相应改下。

作者: kepurSong 时间: 2019-10-19 10:32
本帖最后由 kepurSong 于 2019-10-19 10:45 编辑

jefferyzhang 发表于 2019-10-18 12:12
config是做归一化用的，这里写了归一操作前处理代码里就要删掉，否则就重复运算了。
reorder channel输入 ...

如下是我在服务器上面预测的代码：
根据这个代码，应该是0001，和 012就可以了，但是处理后的图片如下：

作者: jefferyzhang 时间: 2019-10-21 08:15
0 0 0 1 就是三通道均值0，方差1，减0除1就是不处理。
如果是前处理代码自行处理的，那量化过程你也得送处理过的图

作者: kepurSong 时间: 2019-10-21 14:38
本帖最后由 kepurSong 于 2019-10-21 15:36 编辑

jefferyzhang 发表于 2019-10-21 08:15
0 0 0 1 就是三通道均值0，方差1，减0除1就是不处理。
如果是前处理代码自行处理的，那量化过程你也得送处 ...

我量化过程的图片也处理过了，但是效果还是一样的，不正确！
我按照deeplab论坛，尝试的修改了一下channel前后的问题，还是没有解决？
这种流程一般问题会出现在哪里？
1，我服务器和rknn推理过程各层的数据shape是一样的，这个我看过了
现在有点懵？？？附件2，是我分别在服务器上面和rknn上面，对同一张图片推理的.npy结果文件。我看了一下，推理结果确实不一样？

作者: jefferyzhang 时间: 2019-10-21 15:38
对过模型输入输出转换前后是否一样么？我指的是数值是否正确，而不是精度是否损失。
如果数值都是错的，那就是有问题的，就要分段排查哪个op转换出问题了。

作者: kepurSong 时间: 2019-10-21 15:40
本帖最后由 kepurSong 于 2019-10-21 15:41 编辑

jefferyzhang 发表于 2019-10-21 15:38
对过模型输入输出转换前后是否一样么？我指的是数值是否正确，而不是精度是否损失。
如果数值都是错的，那 ...

处理前后，数据的reshape是一样的，各层的输出shape也是一样的

作者: kepurSong 时间: 2019-10-21 17:16

jefferyzhang 发表于 2019-10-21 15:38
对过模型输入输出转换前后是否一样么？我指的是数值是否正确，而不是精度是否损失。
如果数值都是错的，那 ...

rknn上面如何查看某一层的输出值？

作者: jefferyzhang 时间: 2019-10-21 18:00

kepurSong 发表于 2019-10-21 17:16
rknn上面如何查看某一层的输出值？

output改成那层，从后往前逐步看跟tf的输出区别

作者: kepurSong 时间: 2019-10-21 18:14

jefferyzhang 发表于 2019-10-21 18:00
output改成那层，从后往前逐步看跟tf的输出区别

明白了，我先试试，感谢大神今天的指导！

欢迎光临 Toybrick (https://t.rock-chips.com/)