如何调用NPU进行浮点矩阵运算

[复制链接] · 发表于 2019-11-9 14:13:23

使用RK3399pro进行浮点矩阵运算，请问有 哪些方法 可以调用NPU进行运算？谢谢。

显示全部楼层 · 发表于 2019-11-10 21:51:50

必须生成静态运算图rknn格式传送给npu进行异构运算。

显示全部楼层 · 发表于 2019-11-11 09:09:10

本帖最后由 SHWY 于 2019-11-11 09:16 编辑

jefferyzhang 发表于 2019-11-10 21:51
必须生成静态运算图rknn格式传送给npu进行异构运算。

官方有进行浮点数矩阵的乘除运算的参考模型吗，或者在哪些网站上能找到类似的资料？

显示全部楼层 · 发表于 2019-11-11 12:21:33

没有此类参考。你可以用tensorflow写出单独的运算图，tf能用就可以转rknn用。
没有客户这么用的，NPU的主流算力还是用于加速卷积和量化定点运算的。

显示全部楼层 · 发表于 2019-11-11 13:34:46

好的，谢谢

显示全部楼层 · 发表于 2019-11-11 13:35:54

jefferyzhang 发表于 2019-11-11 12:21
没有此类参考。你可以用tensorflow写出单独的运算图，tf能用就可以转rknn用。
没有客户这么用的，NPU的主流 ...

好的，谢谢