Toybrick

如何调用NPU进行浮点矩阵运算

snsing

注册会员

积分
79
发表于 3 天前    查看: 61|回复: 5 | [复制链接]    打印 | 显示全部楼层
使用RK3399pro进行浮点矩阵运算,请问有 哪些方法 可以调用NPU进行运算?谢谢。
回复

使用道具 举报

jefferyzhang

超级版主

积分
2163
发表于 前天 21:51 | 显示全部楼层
必须生成静态运算图rknn格式传送给npu进行异构运算。
回复

使用道具 举报

SHWY

新手上路

积分
10
发表于 昨天 09:09 | 显示全部楼层
本帖最后由 SHWY 于 2019-11-11 09:16 编辑
jefferyzhang 发表于 2019-11-10 21:51
必须生成静态运算图rknn格式传送给npu进行异构运算。

官方有进行浮点数矩阵的乘除运算的参考模型吗,或者在哪些网站上能找到类似的资料?
回复

使用道具 举报

jefferyzhang

超级版主

积分
2163
发表于 昨天 12:21 | 显示全部楼层
没有此类参考。你可以用tensorflow写出单独的运算图,tf能用就可以转rknn用。
没有客户这么用的,NPU的主流算力还是用于加速卷积和量化定点运算的。
回复

使用道具 举报

SHWY

新手上路

积分
10
发表于 昨天 13:34 | 显示全部楼层
好的,谢谢
回复

使用道具 举报

SHWY

新手上路

积分
10
发表于 昨天 13:35 | 显示全部楼层
jefferyzhang 发表于 2019-11-11 12:21
没有此类参考。你可以用tensorflow写出单独的运算图,tf能用就可以转rknn用。
没有客户这么用的,NPU的主流 ...

好的,谢谢
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表