Toybrick

标题: rk3399pro, nup计算能力是多少? [打印本页]

作者: liuwenzhen    时间: 2020-5-20 17:53
标题: rk3399pro, nup计算能力是多少?
在rk3399pro 跑mobilenetv1,float32才不到15PFS,为什么会这么慢?这是没有调用npu吗?


作者: jefferyzhang    时间: 2020-5-21 08:50
3T  int8
300G int16
100G fp16

你没量化当然慢
作者: liuwenzhen    时间: 2020-5-21 09:14
jefferyzhang 发表于 2020-5-21 08:50
3T  int8
300G int16
100G fp16

我的模型现在是float32,那这样速度会更慢.量化会导致精度下降吗?
作者: jefferyzhang    时间: 2020-5-21 09:20
liuwenzhen 发表于 2020-5-21 09:14
我的模型现在是float32,那这样速度会更慢.量化会导致精度下降吗?

请先把所有文档通读一遍。。。
量化需要技巧,可以达到和原模型几乎一样的精度
作者: liuwenzhen    时间: 2020-5-21 11:23
jefferyzhang 发表于 2020-5-21 09:20
请先把所有文档通读一遍。。。
量化需要技巧,可以达到和原模型几乎一样的精度 ...

好的,那我先读文档




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3