模型量化异常

[复制链接] · 发表于 2020-5-21 16:19:26

debian10系统 tknn-toolkit1.3.2
模型在build时没有报错,进程直接被killed,之前在模型不进行量化时能正常运行，请问这个是什么原因

代码如下：

只看该作者 · 发表于 2020-5-21 16:37:09

自己看下dmesg, 肯定是 low memory killer。

不要在板子上做大模型的量化，内存不够的。放PC上量化

只看该作者 · 发表于 2020-5-21 16:42:09

jefferyzhang 发表于 2020-5-21 16:37
自己看下dmesg, 肯定是 low memory killer。

不要在板子上做大模型的量化，内存不够的。放PC上量化 ...

我也是怀疑这个原因，正在测试，谢谢