Toybrick

Fp16下网络输出结果只能精确小数点后二位

张晨晨

新手上路

积分
37
楼主
发表于 2021-1-26 09:53:21    查看: 7770|回复: 0 | [复制链接]    打印 | 只看该作者
我有个caffe分类模型,但是Fp16下网络的输出结果不能精确到小数点后三四位

zd_deploy.prototxt  网络描述
zd_4000.caffemodel   模型权重
main.cc  测试程序
convertcaffe.py  转换脚本
2.bmp  测试图像

网络输入  BGR  NCHW  减去均值128 直接预测
本来应该的结果  0.958134 0.041866
rknn出来的结果  0.947266 , 0.052887  不能精确到小数点后三位

文件链接:链接:https://pan.baidu.com/s/1hGYF9gg2JyGu3jdeQAQd8Q
提取码:zvie

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表