Toybrick

rknn 1808 tflite轉rknn 檔警告訊息

wenching33

新手上路

积分
37
楼主
发表于 2020-5-14 11:59:38    查看: 34811|回复: 23 | [复制链接]    打印 | 只看该作者
您好  我買了支Toybrick
在網路上下載了tookkit 1.3.2
想轉.tflite為.rknn時我參考了examples/tflite/mobilenet_v1/的例子
但載入我自己的.tflite時,

    # Load tensorflow model
    print('--> Loading model')
    ret = rknn.load_tflite(model='./palm_detection_without_custom_op.tflite')
    if ret != 0:
        print('Load mobilenet_v1 failed!')
        exit(ret)
    print('done')

    # Build model
    print('--> Building model')
    ret = rknn.build(do_quantization=True, dataset='./dataset.txt', pre_compile=False)


在如上code的rknn.build()那行執行時系統報Warning:
W Tensor b'lambda/Pad' has no buffer, init to zeros.
W Tensor b'lambda_1/Pad' has no buffer, init to zeros.
W Tensor b'lambda_2/Pad' has no buffer, init to zeros.


請問這是啥意思呢?
在不quantize之下可以順利轉出.rknn的model, 但model中pad op不見了 (使用visualization工具看的)
原先.tflite 中有pad這個op,  輸出的.rknn沒有了

是轉換不支持pad這個op嗎?
那.tflite模型可以customized op嗎? 我看Mannul說只支持tensorflow, 那不知道包含.tflite model嗎?

謝謝~


回复

使用道具 举报

jefferyzhang

版主

积分
13580
沙发
发表于 2020-5-14 12:11:31 | 只看该作者
运算结果正确么?
这里看pad可能是编译时候被优化掉了。
回复

使用道具 举报

wenching33

新手上路

积分
37
板凳
 楼主| 发表于 2020-5-14 13:18:32 | 只看该作者
感謝您的回覆
沒quantize下可以成功export .rknn model
但這個rknn在拿來應用時 雖可load model, 但到init runtime就會出錯

Loading RKNN model
done
--> init runtime
E RKNNAPI: rknn_init,  msg_load_ack fail, ack = 1(ACK_FAIL), expect 0(ACK_SUCC)!
E RKNNAPI: ==============================================
E RKNNAPI: RKNN VERSION:
E RKNNAPI:   API: 1.3.2 (9eebd73 build: 2020-04-02 15:30:51)
E RKNNAPI:   DRV: 1.3.0 (c4f8c23 build: 2019-11-25 10:39:29)
E RKNNAPI: ==============================================
E Catch exception when init runtime!
E Traceback (most recent call last):
E   File "rknn/api/rknn_base.py", line 1067, in rknn.api.rknn_base.RKNNBase.init_runtime
E   File "rknn/api/rknn_runtime.py", line 326, in rknn.api.rknn_runtime.RKNNRuntime.build_graph
E Exception: RKNN init failed. error code: RKNN_ERR_MODEL_INVALID
E Current device id is: TS018082190800304
E Devices connected:
E ['TS018082190800304']
init runtime failed.

請問我可以給你們我的這個含有pad op的.tflite model, 方便你們修掉這個bug嗎?
還是我該怎麼解決這個問題呢 (改用custom op的方式?)
回复

使用道具 举报

wenching33

新手上路

积分
37
地板
 楼主| 发表于 2020-5-14 13:30:55 | 只看该作者
本帖最后由 wenching33 于 2020-5-14 13:32 编辑



補上用netron看原來.tflite與用visualization tool看轉出來.rknn不同處

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

kkkaaa

中级会员

积分
203
5#
发表于 2020-5-14 13:44:56 | 只看该作者
wenching33 发表于 2020-5-14 13:30
補上用netron看原來.tflite與用visualization tool看轉出來.rknn不同處

你好,请问你是用什么 visualization tool 查看 rknn 模型的?谢谢
回复

使用道具 举报

wenching33

新手上路

积分
37
6#
 楼主| 发表于 2020-5-14 13:51:38 | 只看该作者
kkkaaa 发表于 2020-5-14 13:44
你好,请问你是用什么 visualization tool 查看 rknn 模型的?谢谢

下載rknn的toolkit後  照User Guide安裝完
可以用python -m rknn.bin.visualization來開啟有GUI的model converter
轉完之後可以預覽將export的 rknn model
回复

使用道具 举报

kkkaaa

中级会员

积分
203
7#
发表于 2020-5-14 14:05:20 | 只看该作者
wenching33 发表于 2020-5-14 13:51
下載rknn的toolkit後  照User Guide安裝完
可以用python -m rknn.bin.visualization來開啟有GUI的model co ...

非常感谢 : )
回复

使用道具 举报

jefferyzhang

版主

积分
13580
8#
发表于 2020-5-14 14:31:46 | 只看该作者
我已经将问题提交给NPU Team了,需要等他们回复。
方便的话可以提供下原始模型和转换脚本么?
回复

使用道具 举报

wenching33

新手上路

积分
37
9#
 楼主| 发表于 2020-5-14 14:54:48 | 只看该作者
jefferyzhang 发表于 2020-5-14 14:31
我已经将问题提交给NPU Team了,需要等他们回复。
方便的话可以提供下原始模型和转换脚本么?
...

您好
可以提供, 要怎麼給你呢?
回复

使用道具 举报

jefferyzhang

版主

积分
13580
10#
发表于 2020-5-14 14:59:15 | 只看该作者
wenching33 发表于 2020-5-14 14:54
您好
可以提供, 要怎麼給你呢?

随便发个网盘,然后给下载地址就好了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表