Toybrick

一个关于tflite模型转化的问题

whu_tzw

新手上路

积分
28
楼主
发表于 2019-8-19 19:41:46    查看: 10238|回复: 5 | [复制链接]    打印 | 只看该作者
在最新的驱动以及版本中,将tflite的目标检测模型进行转化出现报错,错误log如下:
D RKNN output shape(concat): (1 1917 91)
D Process convert_scores_71 ...
D RKNN output shape(sigmoid): (1 1917 91)
D Process variable_77 ...
D RKNN output shape(variable): (1917 4)
D Process TFLite_Detection_PostProcess_72 ...
E Catch exception when loading tflite model: ./detect.tflite!
T Traceback (most recent call last):
T   File "rknn/api/rknn_base.py", line 219, in rknn.api.rknn_base.RKNNBase.load_tflite
T   File "rknn/base/RKNNlib/RKNNnetbuilder.py", line 263, in rknn.base.RKNNlib.RKNNnetbuilder.RKNNNetBuilder.build
T   File "rknn/base/RKNNlib/RKNNnetbuilder.py", line 281, in rknn.base.RKNNlib.RKNNnetbuilder.RKNNNetBuilder.build_layer
T   File "rknn/base/RKNNlib/RKNNnetbuilder.py", line 289, in genexpr
T   File "rknn/base/RKNNlib/RKNNnetbuilder.py", line 289, in genexpr
T AttributeError: 'NoneType' object has no attribute 'to_string'


然后选择将版本降到1.0.0之前,重新进行测试,错误结果与上述相同。
在官方的dome中并未提供tflite检测模型的使用,只有pb模型的转化过程,请问是不是ssd的检测模型转化输入只能是pb格式。
如果只能是pb格式,那么量化图设置多少才能通过转化,因为当量化图设置少量时,转化后模型的精度极大损失与服务器端相差甚远,但是当量化图设置过多(200张时就会有这样的结果),会直接出现kill的情况。

谢谢
回复

使用道具 举报

yupanpan

注册会员

积分
80
沙发
发表于 2019-9-25 18:15:44 | 只看该作者
我也遇到这个问题了,怎么没有人回复,我也在等答案
回复

使用道具 举报

jefferyzhang

版主

积分
13574
板凳
发表于 2019-9-26 08:34:31 | 只看该作者
量化建议2000以上,不设上限,图片越多精度越区域稳定。
我有个专业的客户量化一次都好几万张,半小时才量化运算完。

转换问题请打开verbose=True看出错在哪里。有可能是遇到不支持的op。
tflite转换是没问题的,参考mnist量化教程,那哥么后面有做tflite转换。
回复

使用道具 举报

yupanpan

注册会员

积分
80
地板
发表于 2019-9-26 09:29:33 | 只看该作者
jefferyzhang 发表于 2019-9-26 08:34
量化建议2000以上,不设上限,图片越多精度越区域稳定。
我有个专业的客户量化一次都好几万张,半小时才量 ...

可是我对自己的模型用rknn做量化,发现dataset.txt中只有一张图片的效果比200张图片的效果要好很多。200张图片做量化,量化后的模型精度基本不能够使用了
回复

使用道具 举报

jefferyzhang

版主

积分
13574
5#
发表于 2019-9-26 09:39:10 | 只看该作者
yupanpan 发表于 2019-9-26 09:29
可是我对自己的模型用rknn做量化,发现dataset.txt中只有一张图片的效果比200张图片的效果要好很多。200 ...

好是针对一张图片好,就跟你训练一样,就训练这张图,这类图识别率就高,其他图识别率就低一个道理。
量化是门很大的学问,图片越多对精度就越稳定。
回复

使用道具 举报

chenxiao1116

新手上路

积分
30
6#
发表于 2019-10-8 22:28:15 | 只看该作者
你是原厂?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表