Toybrick

标题: 量化报错 [打印本页]

作者: fjndfazp 时间: 2020-6-28 20:16
标题: 量化报错
请版主帮忙看看，这个报错原因是什么？

作者: jefferyzhang 时间: 2020-6-28 21:22
从log上看压根就没到量化，你模型转换都有问题。
先确认你的模型是可以被当前环境的caffe正常读取和推理的。

作者: fjndfazp 时间: 2020-6-29 08:52

jefferyzhang 发表于 2020-6-28 21:22
从log上看压根就没到量化，你模型转换都有问题。
先确认你的模型是可以被当前环境的caffe正常读取和推理的 ...

模型确认可以正常使用，在进行量化的时候报错，所以咨询一下可能是什么原因？

作者: fjndfazp 时间: 2020-6-29 10:01
找到原因了，还是dw层的问题，量化对dw不是特别友好，需要修改网络结构，说明文档里有！

作者: jefferyzhang 时间: 2020-6-29 10:16

fjndfazp 发表于 2020-6-29 10:01
找到原因了，还是dw层的问题，量化对dw不是特别友好，需要修改网络结构，说明文档里有！ ...

我们芯片不需要用dw牺牲精度来获取速度，这颗NPU跑普通卷积比dw快多了

欢迎光临 Toybrick (https://t.rock-chips.com/)