Toybrick

darknet 模型转换问题

zwj1234

注册会员

积分
84
楼主
发表于 2020-6-5 13:54:41    查看: 7139|回复: 4 | [复制链接]    打印 | 只看该作者

以下是cfg的前面配置部分:

[net]
batch=1
subdivisions=1
width=160
height=416
channels=3
momentum=0.9
decay=0.0005
angle=0
saturation = 1.5
exposure = 1.5
hue=.1

learning_rate=0.001
burn_in=1000
max_batches = 50020000
policy=steps
...........
模型也是用的这个cfg训练出来的,但是在模型转换中报错,难道要求长宽相同才能转换么?求解答,在线等




本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

leok

版主

积分
894
沙发
发表于 2020-6-5 14:39:28 | 只看该作者
看信息;  OOM...
回复

使用道具 举报

zwj1234

注册会员

积分
84
板凳
 楼主| 发表于 2020-6-5 14:47:45 | 只看该作者
本帖最后由 zwj1234 于 2020-6-5 14:51 编辑
leok 发表于 2020-6-5 14:39
看信息;  OOM...

Out of memory
回复

使用道具 举报

leok

版主

积分
894
地板
发表于 2020-6-5 15:15:37 | 只看该作者

你显卡的显存不够吧。。。
回复

使用道具 举报

zwj1234

注册会员

积分
84
5#
 楼主| 发表于 2020-6-5 16:52:28 | 只看该作者
leok 发表于 2020-6-5 15:15
你显卡的显存不够吧。。。

你好,显存的问题解决了, 但是 rknn.build(do_quantization=True, dataset='./dataset_416x160.txt',pre_compile=True)在pc端和板子上都没有办法转化,是什么情况呢
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表