Toybrick

标题: 模型转化精度问题　ONNX->RKNN [打印本页]

作者: 禾刀白水 时间: 4 天前
标题: 模型转化精度问题　ONNX->RKNN
本帖最后由禾刀白水于 2024-9-4 15:30 编辑

大家好，请教大家个问题
使用rknn.accuracy_analysis()在模拟器上，没有量化进行精度分析，发现精度误差很大．使用onnx模型输出正确.
如图所示．
问题１：single　error 的单层欧氏误差为零，为什么entire的误差还在增加．
问题2: 为什么一个简单的乘法运算，会导致这么大的误差．
误差分析输出：

问题代码定位到第487行乘法和加法运算：

欢迎光临 Toybrick (https://t.rock-chips.com/)