Toybrick

标题: darknet 模型转换问题 [打印本页]

作者: zwj1234 时间: 2020-6-5 13:54
标题: darknet 模型转换问题
[attach]1169[/attach]
以下是cfg的前面配置部分：

[net]
batch=1
subdivisions=1
width=160
height=416
channels=3
momentum=0.9
decay=0.0005
angle=0
saturation = 1.5
exposure = 1.5
hue=.1

learning_rate=0.001
burn_in=1000
max_batches = 50020000
policy=steps
...........
模型也是用的这个cfg训练出来的，但是在模型转换中报错，难道要求长宽相同才能转换么？求解答，在线等

作者: leok 时间: 2020-6-5 14:39
看信息； OOM...

作者: zwj1234 时间: 2020-6-5 14:47
本帖最后由 zwj1234 于 2020-6-5 14:51 编辑

leok 发表于 2020-6-5 14:39
看信息； OOM...

Out of memory

作者: leok 时间: 2020-6-5 15:15

zwj1234 发表于 2020-6-5 14:47
Out of memory

你显卡的显存不够吧。。。

作者: zwj1234 时间: 2020-6-5 16:52

leok 发表于 2020-6-5 15:15
你显卡的显存不够吧。。。

你好，显存的问题解决了，但是 rknn.build(do_quantization=True, dataset='./dataset_416x160.txt',pre_compile=True)在pc端和板子上都没有办法转化，是什么情况呢

欢迎光临 Toybrick (https://t.rock-chips.com/)