Toybrick

模型转换,平均池化。

tianlj

中级会员

积分
276
发表于 2020-5-19 10:41:50    查看: 24892|回复: 11 | [复制链接]    打印 | 显示全部楼层
TensorFlow 模型,转换过后,相同输入,RKNN与TensorFlow 计算结果差距特别大。将TensorFlow模型中所有的 平均池化 变为 最大池化 后,结果基本完全相同。
请问是否 对于平均池化的支持有问题?或者我的转换过程有问题。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

jefferyzhang

版主

积分
13608
发表于 2020-5-19 11:45:34 | 显示全部楼层
看下troubleshoot文档是否有描述。我记得有个转换时候优化的标志位
回复

使用道具 举报

tianlj

中级会员

积分
276
 楼主| 发表于 2020-5-19 11:49:48 | 显示全部楼层
好的,我仔细看看,感谢
回复

使用道具 举报

tianlj

中级会员

积分
276
 楼主| 发表于 2020-5-19 13:58:07 | 显示全部楼层
jefferyzhang 发表于 2020-5-19 11:45
看下troubleshoot文档是否有描述。我记得有个转换时候优化的标志位

optimization_level
这个参数设置 为0 , 平均池化结果差距依然很大
回复

使用道具 举报

tianlj

中级会员

积分
276
 楼主| 发表于 2020-5-19 16:56:17 | 显示全部楼层
jefferyzhang 发表于 2020-5-19 11:45
看下troubleshoot文档是否有描述。我记得有个转换时候优化的标志位

相关代码已上传:
https://pan.baidu.com/s/16dgSBTV8eGJierL1x_fIvQ
提取码:tdw0
回复

使用道具 举报

jefferyzhang

版主

积分
13608
发表于 2020-5-19 17:27:49 | 显示全部楼层
请把rknntoolkit 版本号发出来
回复

使用道具 举报

tianlj

中级会员

积分
276
 楼主| 发表于 2020-5-19 17:58:48 | 显示全部楼层
jefferyzhang 发表于 2020-5-19 17:27
请把rknntoolkit 版本号发出来

版本
1.3.0
回复

使用道具 举报

jefferyzhang

版主

积分
13608
发表于 2020-5-20 08:14:13 | 显示全部楼层

1.3.2试下啊。。
回复

使用道具 举报

tianlj

中级会员

积分
276
 楼主| 发表于 2020-5-20 08:17:26 | 显示全部楼层

1.32也试了,同样的效果
回复

使用道具 举报

jefferyzhang

版主

积分
13608
发表于 2020-5-26 10:08:31 | 显示全部楼层
NPU Team回复:253252
量化后结果是对的,float的结果不正确在处理了
详见附件:






本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表