Toybrick

标题: yolov4在rk1808s0计算棒的耗时 [打印本页]

作者: daigang 时间: 2020-6-19 10:46
标题: yolov4在rk1808s0计算棒的耗时

您好，在使用rknn-toolkit1.3.0在ubuntu18系统上安装后，接上RK1808s0计算棒后，python3代码运行量化后的darknet-yolov4时，使用的是被动模式，发现模型平均推断时间：582 毫秒，而之前使用darknet-yolov3时，使用的是被动模式，模型平均推断时间：247 毫秒，增加了335毫秒。但是看yolov4的介绍，在几乎相同的速度下，yolov4的性能比yolov3好。问一下，可能是什么原因导致darknet-yolov4在RK1808s0计算棒上运行耗时太长。

作者: leok 时间: 2020-6-22 08:46
和骨干网络设计和本算算法复杂度相关。

作者: 奥古师弟 时间: 2020-6-22 12:16
在rknn上运行，spp里面的maxpool参数kernel_size>3之后很耗时。

作者: Devin 时间: 2020-6-23 15:45
rk支持darknet-yolov4的mish层了？

作者: daigang 时间: 2020-6-24 13:06
不清楚rk是否支持darknet-yolov4的mish层，是将mish改称relu后训练获得的模型。

作者: leok 时间: 2020-6-29 08:39

Devin 发表于 2020-6-23 15:45
rk支持darknet-yolov4的mish层了？

已经支持，预计下个版本发布中会带mish支持。

作者: Devin 时间: 2020-7-1 09:15

leok 发表于 2020-6-29 08:39
已经支持，预计下个版本发布中会带mish支持。

下个版本大概啥时候发布呢

作者: rakidis 时间: 2020-11-12 16:38

leok 发表于 2020-6-22 08:46
和骨干网络设计和本算算法复杂度相关。

Did you guys find a solution to this issue? Do we have to remove spp structure from yolov4 backbone and then retrain with entire imagenet to solve it?

作者: leok 时间: 2020-11-13 09:05

leok 发表于 2020-6-29 08:39
已经支持，预计下个版本发布中会带mish支持。

已经发布。https://github.com/rockchip-linux/rknn-toolkit/tree/master
同时需升级计算棒固件。

作者: rakidis 时间: 2020-11-13 15:58

leok 发表于 2020-11-13 09:05
已经发布。https://github.com/rockchip-linux/rknn-toolkit/tree/master
同时需升级计算棒固件。 ...

Hey Leok,

Do you know why maxpool in spp structure of yolov4 is taking too much time?
Is there a way to solve this bottleneck, because currently even though mish layer is supported, yolov4 is not worth using due to its huge inference time (like 200ms)

欢迎光临 Toybrick (https://t.rock-chips.com/)