yolov4在rk1808s0计算棒的耗时

[复制链接] · 发表于 2020-6-19 10:46:37

您好，在使用rknn-toolkit1.3.0在ubuntu18系统上安装后，接上RK1808s0计算棒后，python3代码运行量化后的darknet-yolov4时，使用的是被动模式，发现模型平均推断时间：582 毫秒，而之前使用darknet-yolov3时，使用的是被动模式，模型平均推断时间：247 毫秒，增加了335毫秒。但是看yolov4的介绍，在几乎相同的速度下，yolov4的性能比yolov3好。问一下，可能是什么原因导致darknet-yolov4在RK1808s0计算棒上运行耗时太长。

只看该作者 · 发表于 2020-6-22 08:46:27

和骨干网络设计和本算算法复杂度相关。

只看该作者 · 发表于 2020-6-22 12:16:32

在rknn上运行，spp里面的maxpool参数kernel_size>3之后很耗时。

只看该作者 · 发表于 2020-6-23 15:45:25

rk支持darknet-yolov4的mish层了？

只看该作者 · 发表于 2020-6-24 13:06:11

不清楚rk是否支持darknet-yolov4的mish层，是将mish改称relu后训练获得的模型。

只看该作者 · 发表于 2020-6-29 08:39:29

Devin 发表于 2020-6-23 15:45
rk支持darknet-yolov4的mish层了？

已经支持，预计下个版本发布中会带mish支持。

只看该作者 · 发表于 2020-7-1 09:15:12

leok 发表于 2020-6-29 08:39
已经支持，预计下个版本发布中会带mish支持。

下个版本大概啥时候发布呢

只看该作者 · 发表于 2020-11-12 16:38:11

leok 发表于 2020-6-22 08:46
和骨干网络设计和本算算法复杂度相关。

Did you guys find a solution to this issue? Do we have to remove spp structure from yolov4 backbone and then retrain with entire imagenet to solve it?

只看该作者 · 发表于 2020-11-13 09:05:53

leok 发表于 2020-6-29 08:39
已经支持，预计下个版本发布中会带mish支持。

已经发布。https://github.com/rockchip-linux/rknn-toolkit/tree/master
同时需升级计算棒固件。

只看该作者 · 发表于 2020-11-13 15:58:57

leok 发表于 2020-11-13 09:05
已经发布。https://github.com/rockchip-linux/rknn-toolkit/tree/master
同时需升级计算棒固件。 ...

Hey Leok,

Do you know why maxpool in spp structure of yolov4 is taking too much time?
Is there a way to solve this bottleneck, because currently even though mish layer is supported, yolov4 is not worth using due to its huge inference time (like 200ms)