rk3399pro, nup计算能力是多少?

[复制链接] · 发表于 2020-5-20 17:53:23

在rk3399pro 跑mobilenetv1,float32才不到15PFS，为什么会这么慢？这是没有调用npu吗？

只看该作者 · 发表于 2020-5-21 08:50:06

3T int8
300G int16
100G fp16

你没量化当然慢

只看该作者 · 发表于 2020-5-21 09:14:59

jefferyzhang 发表于 2020-5-21 08:50
3T int8
300G int16
100G fp16

我的模型现在是float32，那这样速度会更慢．量化会导致精度下降吗？

只看该作者 · 发表于 2020-5-21 09:20:14

liuwenzhen 发表于 2020-5-21 09:14
我的模型现在是float32，那这样速度会更慢．量化会导致精度下降吗？

请先把所有文档通读一遍。。。
量化需要技巧，可以达到和原模型几乎一样的精度

只看该作者 · 发表于 2020-5-21 11:23:37

jefferyzhang 发表于 2020-5-21 09:20
请先把所有文档通读一遍。。。
量化需要技巧，可以达到和原模型几乎一样的精度 ...

好的，那我先读文档