Toybrick

yolov4在rk1808s0计算棒的耗时

daigang

中级会员

积分
209
发表于 2020-6-19 10:46:37    查看: 1251|回复: 8 | [复制链接]    打印 | 显示全部楼层
您好,在使用rknn-toolkit1.3.0ubuntu18系统上安装后,接上RK1808s0计算棒后,python3代码运行量化后的darknet-yolov4时,使用的是被动模式,发现模型平均推断时间:582 毫秒,而之前使用darknet-yolov3时,使用的是被动模式模型平均推断时间:247 毫秒,增加了335毫秒。但是yolov4的介绍,在几乎相同的速度下,yolov4的性能比yolov3好。问一下,可能是什么原因导致darknet-yolov4RK1808s0计算棒上运行耗时太长

回复

使用道具 举报

leok

版主

积分
850
发表于 2020-6-22 08:46:27 | 显示全部楼层
和骨干网络设计和本算算法复杂度相关。
回复

使用道具 举报

奥古师弟

注册会员

积分
115
发表于 2020-6-22 12:16:32 | 显示全部楼层
在rknn上运行,spp里面的maxpool参数kernel_size>3之后很耗时。
回复

使用道具 举报

Devin

中级会员

积分
327
发表于 2020-6-23 15:45:25 | 显示全部楼层
rk支持darknet-yolov4的mish层了?
回复

使用道具 举报

daigang

中级会员

积分
209
 楼主| 发表于 2020-6-24 13:06:11 | 显示全部楼层
不清楚rk是否支持darknet-yolov4的mish层,是将mish改称relu后训练获得的模型。
回复

使用道具 举报

leok

版主

积分
850
发表于 2020-6-29 08:39:29 | 显示全部楼层
Devin 发表于 2020-6-23 15:45
rk支持darknet-yolov4的mish层了?

已经支持,预计下个版本发布中会带mish支持。
回复

使用道具 举报

Devin

中级会员

积分
327
发表于 2020-7-1 09:15:12 | 显示全部楼层
leok 发表于 2020-6-29 08:39
已经支持,预计下个版本发布中会带mish支持。

下个版本大概啥时候发布呢
回复

使用道具 举报

rakidis

中级会员

积分
343
发表于 2020-11-12 16:38:11 | 显示全部楼层
leok 发表于 2020-6-22 08:46
和骨干网络设计和本算算法复杂度相关。

Did you guys find a solution to this issue? Do we have to remove spp structure from yolov4 backbone and then retrain with entire imagenet to solve it?
回复

使用道具 举报

leok

版主

积分
850
发表于 2020-11-13 09:05:53 | 显示全部楼层
leok 发表于 2020-6-29 08:39
已经支持,预计下个版本发布中会带mish支持。

已经发布。https://github.com/rockchip-linux/rknn-toolkit/tree/master
同时需升级计算棒固件。
回复

使用道具 举报

rakidis

中级会员

积分
343
发表于 2020-11-13 15:58:57 | 显示全部楼层
leok 发表于 2020-11-13 09:05
已经发布。https://github.com/rockchip-linux/rknn-toolkit/tree/master
同时需升级计算棒固件。 ...

Hey Leok,

Do you know why maxpool in spp structure of yolov4 is taking too much time?
Is there a way to solve this bottleneck, because currently even though mish layer is supported, yolov4 is not worth using due to its huge inference time (like 200ms)
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表