Toybrick

标题: Fp16下网络输出结果只能精确小数点后二位 [打印本页]

作者: 张晨晨 时间: 2021-1-26 09:53
标题: Fp16下网络输出结果只能精确小数点后二位
我有个caffe分类模型，但是Fp16下网络的输出结果不能精确到小数点后三四位

zd_deploy.prototxt  网络描述
zd_4000.caffemodel 模型权重
main.cc  测试程序
convertcaffe.py  转换脚本
2.bmp  测试图像

网络输入  BGR  NCHW  减去均值128 直接预测
本来应该的结果  0.958134 0.041866
rknn出来的结果  0.947266 , 0.052887  不能精确到小数点后三位

文件链接：链接：https://pan.baidu.com/s/1hGYF9gg2JyGu3jdeQAQd8Q
提取码：zvie

欢迎光临 Toybrick (https://t.rock-chips.com/)