量化报错

[复制链接] · 发表于 2020-6-28 20:16:05

请版主帮忙看看，这个报错原因是什么？

只看该作者 · 发表于 2020-6-28 21:22:36

从log上看压根就没到量化，你模型转换都有问题。
先确认你的模型是可以被当前环境的caffe正常读取和推理的。

只看该作者 · 发表于 2020-6-29 08:52:44

jefferyzhang 发表于 2020-6-28 21:22
从log上看压根就没到量化，你模型转换都有问题。
先确认你的模型是可以被当前环境的caffe正常读取和推理的 ...

模型确认可以正常使用，在进行量化的时候报错，所以咨询一下可能是什么原因？

只看该作者 · 发表于 2020-6-29 10:01:02

找到原因了，还是dw层的问题，量化对dw不是特别友好，需要修改网络结构，说明文档里有！

只看该作者 · 发表于 2020-6-29 10:16:23

fjndfazp 发表于 2020-6-29 10:01
找到原因了，还是dw层的问题，量化对dw不是特别友好，需要修改网络结构，说明文档里有！ ...

我们芯片不需要用dw牺牲精度来获取速度，这颗NPU跑普通卷积比dw快多了