Toybrick

RKNN tensorflow模型转rknn之后init_runtime出现段错误

xinzhiling111

注册会员

积分
195
发表于 2020-11-12 09:25:26    查看: 545|回复: 1 | [复制链接]    打印 | 显示全部楼层
近期在研究rknn模型转换,参考RK3399Pro入门教程(4)从Tensorflow.Keras到RKNN 帖子生成pb模型,并将pb模型转换成了rknn模型,转换过程中,build量化的时候,一开始用的jpg图片,结果一直是量化失败,后来将图片转成npy之后,可以量化成功,并转换成rknn模型,但是要使用模型在ret = rknn.init_runtime()初始化运行环境的时候出现了段错误,错误信息如下:
D [print_tensor:136]out(0): id[   8] vtl[1] const[0] shape[ 10               ] fmt[u8 ] qnt[ASM zp=157, scale=32.828148]
D [setup_node:368]Setup node id[3] uid[2] op[SOFTMAX]
D [print_tensor:136]in(0) : id[   8] vtl[1] const[0] shape[ 10               ] fmt[u8 ] qnt[ASM zp=157, scale=32.828148]
D [print_tensor:136]out(0): id[   0] vtl[0] const[0] shape[ 10, 1            ] fmt[f16] qnt[NONE]
D [optimize_node:312]Backward optimize neural network
D [optimize_node:319]Forward optimize neural network
D [rknn_optimize_internal_node:331]Optimize node uid[2] sub_uid[1] op[SOFTMAX_INTERNAL]
I [compute_node:261]Create vx node

Process finished with exit code 139 (interrupted by signal 11: SIGSEGV)

没有别的提示信息,问题排查陷入僵局,麻烦有碰到过或者了解的朋友帮忙分析下,非常感谢。
回复

使用道具 举报

xinzhiling111

注册会员

积分
195
 楼主| 发表于 2020-11-12 16:52:41 | 显示全部楼层
问题已经解决,灰度图的处理有些特殊,以及这个模型本身,所以在生成pb模型的时候需要在原论坛基础上进行些许修改。ps:没找到结贴的地方。
回复

使用道具 举报

tecsai

注册会员

积分
95
发表于 5 天前 | 显示全部楼层
楼主你好,我遇到了和你一样的问题,请问你是怎么解决的,能不能给一些详细的线索,多谢多谢!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表