rk3399pro上的GPU能为AI 模型加速吗？

[复制链接] · 发表于 2022-12-29 10:35:26

tensorflowlite 模型推理能不能利用上rk3399pro 的GPU加速？是不是必须将模型转化为rknn,利用npu推理加速？

显示全部楼层 · 发表于 2022-12-29 15:30:18

理论可行，可支持opencl接口，但实际没人这么用，毕竟npu性能强大，最费时间的是卷积运算，gpu跑不过npu，而其他通用运算gpu又跑不过cpu，意义不大。

显示全部楼层 · 发表于 2022-12-30 13:39:25

jefferyzhang 发表于 2022-12-29 15:30
理论可行，可支持opencl接口，但实际没人这么用，毕竟npu性能强大，最费时间的是卷积运算，gpu跑不过npu， ...

好的，明白了，感谢回复