Toybrick

标题: 模型转换成功，但预测结果不对 [打印本页]

作者: hzdxs 时间: 2019-5-8 13:34
标题: 模型转换成功，但预测结果不对
现在发现一个问题，caffe-ssd在GPU上跑同样的模型，同样的deploy，得到DetectionOut层输入数据是正确的
但是转换后的rknn模型，跑得到的两个output数据，其中我初步测了下得分数据，得分数据共计24656组
其中24652组数据被标记为背景，剩下标记为非背景的错的也离谱，本来应该得分高的种类，恰恰得分非常低，反而不该出现的种类得分反而高。不知道为何？
图片直接使用cv2.imread()加上bgr2rgb即便不做bgr2rgb也是错的离谱

作者: hzdxs 时间: 2019-5-8 14:37
补充一下：
我做过如下实验：
1.rknn.config中调整图片顺序为0 1 2 为 2 1 0
2.rknn.build()do_quantization=False/True
结果都一样，输出的维度、大小都正确，但是内容不对，
同样的图片，同样的caffemodel文件，同样的prototxt文件，在gpu跑就是对的。

作者: hzdxs 时间: 2019-5-8 14:39
rknn.config(channel_mean_value='104 117 124 1',reorder_channel='2 1 0')//也尝试过0 1 2顺序的格式，还是不行
这是训练文件
transform_param {
mirror: true
mean_value: 104
mean_value: 117
mean_value: 123
resize_param {

作者: jefferyzhang 时间: 2019-5-21 18:42
检查下输出结果是不是NCHW

欢迎光临 Toybrick (https://t.rock-chips.com/)