Toybrick

Android下的NPU的驱动和性能评估

jefferyzhang

版主

积分
12953
楼主
发表于 2020-4-25 17:32:30 | 显示全部楼层
1. 不是,npu_transfer_proxy是主控和NPU固件交互的服务,NPU和wifi模块一样自带一个firmware
2. 文档里有描述一些命令看一些信息,具体看下文档,我也记不清楚了。
回复

使用道具 举报

jefferyzhang

版主

积分
12953
沙发
发表于 2020-4-25 21:52:10 | 显示全部楼层
Luhaibin 发表于 2020-4-25 20:23
我在wiki里面看到npu的运算性能是3.0TOPs。请问,就是只要是使用npu进行推理,npu就是以3.0TOPs进行推理 ...

查询的文档我暂时找不到,主要只能查内存占用,时间片占用查不到。
这颗NPU有1920个INT8 MACs,192个INT16 MACs,64个FP16 MACs,在默认800Mhz频率下,他的定点处理能力就是3TOps,除了这些MAC计算单元,还有通用计算单元没算在这3TOps里。具体可以多看看我们资料。
如何跑满3TOps性能,可以查看rknn-toolkit文档的Trubleshoots那份的最后一章,网络优化建议。
建议你先把我们文档都通读一遍就会有大概了解了。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表