Toybrick

标题: rk3399pro上的GPU能为AI 模型加速吗？ [打印本页]

作者: rk3399proUser 时间: 2022-12-29 10:35
标题: rk3399pro上的GPU能为AI 模型加速吗？
tensorflowlite 模型推理能不能利用上rk3399pro 的GPU加速？是不是必须将模型转化为rknn,利用npu推理加速？

作者: jefferyzhang 时间: 2022-12-29 15:30
理论可行，可支持opencl接口，但实际没人这么用，毕竟npu性能强大，最费时间的是卷积运算，gpu跑不过npu，而其他通用运算gpu又跑不过cpu，意义不大。

作者: rk3399proUser 时间: 2022-12-30 13:39

jefferyzhang 发表于 2022-12-29 15:30
理论可行，可支持opencl接口，但实际没人这么用，毕竟npu性能强大，最费时间的是卷积运算，gpu跑不过npu， ...

好的，明白了，感谢回复

欢迎光临 Toybrick (https://t.rock-chips.com/)