Toybrick

标题: rknn误差累计，rknn算子不支持问题 [打印本页]

作者: 殷艳坤 时间: 2023-7-19 17:32
标题: rknn误差累计，rknn算子不支持问题
测试第一个卷积的输出，中间网络输出和最后卷积输出，发现第一层卷积误差还可接受，如下：
-657.5 ：-657.50885
-627 ：-626.8629
-631.5 ：-631.6764
-618 ：-617.80115
-623.5 ：-623.65155
-635 ：-635.0591
...
但是最后卷积输出
12.476562：35.552456
23.921875：15.237753
30.8125：116.114006
35.6875：70.52029
-0.017471313：0.0
5.2851562：15.401582

网络如下：
rknn网络算子有哪些是不支持吗？？？？
[attach]2731[/attach]

作者: jefferyzhang 时间: 2023-7-20 15:53
用文档的方法测试余弦误差，算子不支持转换时候就会报错。
量化精度问题需要系统分析，
最简单做法就是某一层精度差就直接混合量化那层不量化，
最佳做法就是直接做训练量化，用量化后的模型转rknn

作者: 殷艳坤 时间: 2023-7-21 10:47

jefferyzhang 发表于 2023-7-20 15:53
用文档的方法测试余弦误差，算子不支持转换时候就会报错。
量化精度问题需要系统分析，
最简单做法就是某一 ...

我现在转rknn是非量化的转的，但是训练模型的时候不是fp16混合精度训练的,是不是因为这个原因造成的精度误差累计？

作者: jefferyzhang 时间: 2023-7-21 11:05

殷艳坤发表于 2023-7-21 10:47
我现在转rknn是非量化的转的，但是训练模型的时候不是fp16混合精度训练的,是不是因为这个原因造成的精度 ...

不会有这么大误差，你这个已经不是叫误差了，是直接算错了

作者: 殷艳坤 时间: 2023-7-21 14:09

jefferyzhang 发表于 2023-7-21 11:05
不会有这么大误差，你这个已经不是叫误差了，是直接算错了

那有可能是网络结构什么不支持呢，中间结果没问题，最后输出就差异大，但是这个网络结构都是类似的，有最可能在哪层呢

欢迎光临 Toybrick (https://t.rock-chips.com/)