Toybrick

标题: 一个关于tflite模型转化的问题 [打印本页]

作者: whu_tzw 时间: 2019-8-19 19:41
标题: 一个关于tflite模型转化的问题
在最新的驱动以及版本中，将tflite的目标检测模型进行转化出现报错，错误log如下：
D RKNN output shape(concat): (1 1917 91)
D Process convert_scores_71 ...
D RKNN output shape(sigmoid): (1 1917 91)
D Process variable_77 ...
D RKNN output shape(variable): (1917 4)
D Process TFLite_Detection_PostProcess_72 ...
E Catch exception when loading tflite model: ./detect.tflite!
T Traceback (most recent call last):
T File "rknn/api/rknn_base.py", line 219, in rknn.api.rknn_base.RKNNBase.load_tflite
T File "rknn/base/RKNNlib/RKNNnetbuilder.py", line 263, in rknn.base.RKNNlib.RKNNnetbuilder.RKNNNetBuilder.build
T File "rknn/base/RKNNlib/RKNNnetbuilder.py", line 281, in rknn.base.RKNNlib.RKNNnetbuilder.RKNNNetBuilder.build_layer
T File "rknn/base/RKNNlib/RKNNnetbuilder.py", line 289, in genexpr
T File "rknn/base/RKNNlib/RKNNnetbuilder.py", line 289, in genexpr
T AttributeError: 'NoneType' object has no attribute 'to_string'

然后选择将版本降到1.0.0之前，重新进行测试，错误结果与上述相同。
在官方的dome中并未提供tflite检测模型的使用，只有pb模型的转化过程，请问是不是ssd的检测模型转化输入只能是pb格式。
如果只能是pb格式，那么量化图设置多少才能通过转化，因为当量化图设置少量时，转化后模型的精度极大损失与服务器端相差甚远，但是当量化图设置过多（200张时就会有这样的结果），会直接出现kill的情况。

谢谢

作者: yupanpan 时间: 2019-9-25 18:15
我也遇到这个问题了，怎么没有人回复，我也在等答案

作者: jefferyzhang 时间: 2019-9-26 08:34
量化建议2000以上，不设上限，图片越多精度越区域稳定。
我有个专业的客户量化一次都好几万张，半小时才量化运算完。

转换问题请打开verbose=True看出错在哪里。有可能是遇到不支持的op。
tflite转换是没问题的，参考mnist量化教程，那哥么后面有做tflite转换。

作者: yupanpan 时间: 2019-9-26 09:29

jefferyzhang 发表于 2019-9-26 08:34
量化建议2000以上，不设上限，图片越多精度越区域稳定。
我有个专业的客户量化一次都好几万张，半小时才量 ...

可是我对自己的模型用rknn做量化，发现dataset.txt中只有一张图片的效果比200张图片的效果要好很多。200张图片做量化，量化后的模型精度基本不能够使用了

作者: jefferyzhang 时间: 2019-9-26 09:39

yupanpan 发表于 2019-9-26 09:29
可是我对自己的模型用rknn做量化，发现dataset.txt中只有一张图片的效果比200张图片的效果要好很多。200 ...

好是针对一张图片好，就跟你训练一样，就训练这张图，这类图识别率就高，其他图识别率就低一个道理。
量化是门很大的学问，图片越多对精度就越稳定。

作者: chenxiao1116 时间: 2019-10-8 22:28
你是原厂？

欢迎光临 Toybrick (https://t.rock-chips.com/)