Toybrick

能给一个硬件实际支持的算子列表么

xsky

中级会员

积分
388
楼主
发表于 2020-3-4 14:39:06    查看: 6051|回复: 2 | [复制链接]    打印 | 只看该作者
请问通过不同框架导入的模型,如何知道哪些算子是在NPU执行,哪些是在CPU执行的?
这个如果要通过单个算子跑性能来测试太费劲了,NPU支持的特性应该都是固定的,能不能给出一个列表,这样在前期使用的时候也好评估一些。


回复

使用道具 举报

leok

版主

积分
894
沙发
发表于 2020-3-9 09:09:22 | 只看该作者
算子支持由于版本更新迭代比较快,并且算子类型比较多,没办法一一列举。比如tf有 io op、math op、nn op之类的,而每个op会有n多种组合,组合成不同层,比如BN层:op组合有mean、std、add等等;并且不同tf版本op名字可能会有变化,也是在不断增加完善,那么npu在驱动层和上层也需要对接支持。
回复

使用道具 举报

xsky

中级会员

积分
388
板凳
 楼主| 发表于 2020-3-12 16:01:08 | 只看该作者
leok 发表于 2020-3-9 09:09
算子支持由于版本更新迭代比较快,并且算子类型比较多,没办法一一列举。比如tf有 io op、math op、nn op之 ...

嗯,谢谢
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表