Toybrick

toolkit1.3.0+UbuntuPC模拟器+Pytorch DenseNet出错

阿杰哥1992

新手上路

积分
30
发表于 2020-3-17 14:51:50    查看: 599|回复: 27 | [复制链接]    打印 | 显示全部楼层
环境:toolkit1.3.0+UbuntuPC模拟器+Pytorch转换。
问题描述:在examples/pytorch/test.py中,我们将resnet18替换成densenet201,发现不能运行成功。rknn.init_runtime()运行过程中显示Restarting kernel...
回复

使用道具 举报

jefferyzhang

超级版主

积分
4770
发表于 2020-3-17 15:04:51 | 显示全部楼层
pytorch版本?
log?
回复

使用道具 举报

阿杰哥1992

新手上路

积分
30
 楼主| 发表于 2020-3-17 15:10:18 | 显示全部楼层

python3.5,pytorch 1.2.0+cpu。
rknn.init_runtime出问题的log如下:
I [setup_nodes:4017]name=convolution_at_9310_36
I [setup_nodes:4017]name=cat_at_input579.1_331
I [setup_nodes:4017]name=batch_norm_at_input580.1_250
I [setup_nodes:4017]name=relu__at_input581.1_169
I [setup_nodes:4017]name=convolution_at_input582.1_136
I [setup_nodes:4017]name=relu__at_input584.1_70
I [setup_nodes:4017]name=convolution_at_9388_37
I [setup_nodes:4017]name=cat_at_input585.1_332
I [setup_nodes:4017]name=batch_norm_at_input586.1_251
I [setup_nodes:4017]name=relu__at_input587.1_170
I [setup_nodes:4017]name=convolution_at_input588.1_137
I [setup_nodes:4017]name=relu__at_input590.1_71
I [setup_nodes:4017]name=convolution_at_9467_38
I [setup_nodes:4017]name=cat_at_input591.1_333
I [setup_nodes:4017]name=batch_norm_at_input592.1_252
I [setup_nodes:4017]name=relu__at_input593.1_171
I [setup_nodes:4017]name=convolution_at_input594.1_138
I [setup_nodes:4017]name=relu__at_input596.1_72
I [setup_nodes:4017]name=convolution_at_9547_39
I [setup_nodes:4017]name=cat_at_input597.1_334
I [setup_nodes:4017]name=batch_norm_at_input598.1_253
I [setup_nodes:4017]name=relu__at_input599.1_172
I [setup_nodes:4017]name=convolution_at_input600.1_139
I [setup_nodes:4017]name=relu__at_input602.1_73
I [setup_nodes:4017]name=convolution_at_new_features2.1_40
I [setup_nodes:4017]name=cat_at_input603.1_7
I [setup_nodes:4017]name=batch_norm_at_input604.1_6
I [setup_nodes:4017]name=relu__at_input605.1_5
I [setup_nodes:4017]name=adaptive_avg_pool2d_at_out.1_4
I [setup_nodes:4017]name=permute_3
I [setup_nodes:4017]name=trans_flatten_at_input606.1_2
I [setup_nodes:4017]name=addmm_at_9685_1
I [vnn_CreateRKNN:5249]Norm tensor initialize
I [vnn_CreateRKNN:5264]Const tensor initialize
I [vnn_CreateRKNN:5279]Virtual tensor initialize

Restarting kernel...
之前的步骤ret返回0,以上log还没保存至verbose_file,就把python kernel整挂了
回复

使用道具 举报

阿杰哥1992

新手上路

积分
30
 楼主| 发表于 2020-3-17 15:17:06 | 显示全部楼层

另,我们采用的torchvision中的原生densenet201模型,
import torchvision.models as models
net = models.densenet201(pretrained=True)
谢谢
回复

使用道具 举报

jefferyzhang

超级版主

积分
4770
发表于 2020-3-17 15:20:04 | 显示全部楼层
问题已提交
回复

使用道具 举报

阿杰哥1992

新手上路

积分
30
 楼主| 发表于 2020-3-17 15:53:31 | 显示全部楼层

期待你们的反馈!!!
回复

使用道具 举报

jefferyzhang

超级版主

积分
4770
发表于 2020-3-18 20:29:55 | 显示全部楼层
请将模型或下载地址、转换脚本发给我
回复

使用道具 举报

jefferyzhang

超级版主

积分
4770
发表于 2020-3-20 16:38:25 | 显示全部楼层
NPU部门答复:
densenet201的模型规模比较大,我这边转换都要花20多分钟,netron也打不开,通过分析,发现这个模型的concat的input数量(47个)已经超过了vip8000的硬件限制(16个),因此该模型在vip8000上暂时无法支持。
回复

使用道具 举报

18022443868

注册会员

积分
150
发表于 2020-5-9 15:35:05 | 显示全部楼层
jefferyzhang 发表于 2020-3-20 16:38
NPU部门答复:
densenet201的模型规模比较大,我这边转换都要花20多分钟,netron也打不开,通过分析,发现 ...

Vip8000是什么?RK3399pRO上面的硬件吗?我的模型中有41个concat,那也同样不支持,这样理解没错吧?这个硬件支撑大概需要怎么调整,让他足够支持?
回复

使用道具 举报

jefferyzhang

超级版主

积分
4770
发表于 2020-5-9 15:56:22 | 显示全部楼层
18022443868 发表于 2020-5-9 15:35
Vip8000是什么?RK3399pRO上面的硬件吗?我的模型中有41个concat,那也同样不支持,这样理解没错吧?这个 ...

NPU的硬件。
简单这么说,这个网络我们硬件限制,支持不了。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表