Toybrick

模型转换成功,但预测结果不对

hzdxs

注册会员

积分
168
发表于 2019-5-8 13:34:49    查看: 6969|回复: 3 | [复制链接]    打印 | 显示全部楼层
现在发现一个问题,caffe-ssd在GPU上跑同样的模型,同样的deploy,得到DetectionOut层输入数据是正确的
但是转换后的rknn模型,跑得到的两个output数据,其中我初步测了下得分数据,得分数据共计24656组
其中24652组数据被标记为背景,剩下标记为非背景的错的也离谱,本来应该得分高的种类,恰恰得分非常低,反而不该出现的种类得分反而高。不知道为何?
图片直接使用cv2.imread()加上bgr2rgb即便不做bgr2rgb也是错的离谱
回复

使用道具 举报

hzdxs

注册会员

积分
168
 楼主| 发表于 2019-5-8 14:37:28 | 显示全部楼层
补充一下:
我做过如下实验:
1.rknn.config中调整图片顺序为0 1 2 为 2 1 0
2.rknn.build()do_quantization=False/True
结果都一样,输出的维度、大小都正确,但是内容不对,
同样的图片,同样的caffemodel文件,同样的prototxt文件,在gpu跑就是对的。
回复

使用道具 举报

hzdxs

注册会员

积分
168
 楼主| 发表于 2019-5-8 14:39:14 | 显示全部楼层
rknn.config(channel_mean_value='104 117 124 1',reorder_channel='2 1 0')//也尝试过0 1 2顺序的格式,还是不行
这是训练文件
transform_param {
    mirror: true
    mean_value: 104
    mean_value: 117
    mean_value: 123
    resize_param {
回复

使用道具 举报

jefferyzhang

版主

积分
13007
发表于 2019-5-21 18:42:58 | 显示全部楼层
检查下输出结果是不是NCHW
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表