SSD相对于tensorflow模型精度很低

RT, (ubuntu:16.04 , rknn v0.99)

采用的backbone是inception-v2. 前后处理参数完全一致(min_score = 0.5, nms_score = 0.35)
下面列出对于同一张图片的输出,分别是rknn和tensorflow pb的输出.

rknn:
class:
[ 10.097731  -10.567392  -11.741548  -10.802223  -11.506717  -11.271885
-11.271885  -11.271885  -10.567392  -11.037054  -11.271885   11.271885 ]
box:
[ 0.7268028   0.         -2.1804085  -3.2302346  -0.16151173  0.7268028
-2.3419201  -0.7268028   1.2920939   0.08075587  0.         -2.6649437 ]

pb:
class:
[ 10.310827  -10.911581  -12.130562  -11.300155  -12.018924  -11.87126
-11.132574  -10.914707  -10.862275  -11.390712  -11.598831   12.325917 ]
box:
[ 0.14211771 -0.30928105 -1.067803   -2.5659282   1.2492366   1.1612065
-0.98545104 -0.9886693   0.40972435  0.62647974 -1.2862402  -1.8050051 ]


可以看出,class的数值差别不大, 但是box的值差别很大, 请问这个有改进的方法么?

jefferyzhang 发表于 2019-7-23 12:02
量化了么，量化需要大量图片进行量化来提高精度，可以无限接近于原模型，
不量化的话精度和原模型是一样的 ...

多谢回答. 后面我用yolov2解决了这个精度问题,发现rknn对于yolo貌似没什么精度损失.

首先,我是量化了的,(图片有几十张,这样看来可能不够)
我用了原生的ssd_inception_v2(91分类),测试,发现pb模型比rknn精度高,下面贴出对比图.
然后用了训练了一把ssd_inception_v2(10分类),测试,发现pb模型精度95%,而rknn模型精度50%不到.

jefferyzhang 发表于 2019-7-23 16:37
我知道我一些算法公司的客户，量化都是用10w+以上的图片进行的，量化运行都要半个多小时，一点点的图片进行 ...

ok .好的~
多谢多谢