Toybrick

标题: 模型转换，平均池化。 [打印本页]

作者: tianlj 时间: 2020-5-19 10:41
标题: 模型转换，平均池化。
TensorFlow 模型，转换过后，相同输入，RKNN与TensorFlow 计算结果差距特别大。将TensorFlow模型中所有的平均池化变为最大池化后，结果基本完全相同。
请问是否对于平均池化的支持有问题？或者我的转换过程有问题。
[attach]1090[/attach]

作者: jefferyzhang 时间: 2020-5-19 11:45
看下troubleshoot文档是否有描述。我记得有个转换时候优化的标志位

作者: tianlj 时间: 2020-5-19 11:49
好的，我仔细看看，感谢

作者: tianlj 时间: 2020-5-19 13:58

jefferyzhang 发表于 2020-5-19 11:45
看下troubleshoot文档是否有描述。我记得有个转换时候优化的标志位

optimization_level
这个参数设置为0 ，平均池化结果差距依然很大

作者: tianlj 时间: 2020-5-19 16:56

jefferyzhang 发表于 2020-5-19 11:45
看下troubleshoot文档是否有描述。我记得有个转换时候优化的标志位

相关代码已上传：
https://pan.baidu.com/s/16dgSBTV8eGJierL1x_fIvQ
提取码：tdw0

作者: jefferyzhang 时间: 2020-5-19 17:27
请把rknntoolkit 版本号发出来

作者: tianlj 时间: 2020-5-19 17:58

jefferyzhang 发表于 2020-5-19 17:27
请把rknntoolkit 版本号发出来

版本
1.3.0

作者: jefferyzhang 时间: 2020-5-20 08:14

tianlj 发表于 2020-5-19 17:58
版本
1.3.0

1.3.2试下啊。。

作者: tianlj 时间: 2020-5-20 08:17

jefferyzhang 发表于 2020-5-20 08:14
1.3.2试下啊。。

1.32也试了，同样的效果

作者: jefferyzhang 时间: 2020-5-26 10:08
NPU Team回复：253252
量化后结果是对的，float的结果不正确在处理了
详见附件：
[attach]1120[/attach]

作者: jefferyzhang 时间: 2020-5-26 10:56
NPU Team回复：
该问题在新的rknn驱动1.3.2版本已经解决，请等待更新

作者: tianlj 时间: 2020-5-26 18:52

jefferyzhang 发表于 2020-5-26 10:56
NPU Team回复：
该问题在新的rknn驱动1.3.2版本已经解决，请等待更新

好的，非常感谢

欢迎光临 Toybrick (https://t.rock-chips.com/)