Android下的NPU的驱动和性能评估

[复制链接] · 发表于 2020-4-25 17:24:17

1. /hardware/rockchip/npu_transfer/bin/npu_transfer_proxy请问这个npu_transfer_proxy是npu的驱动程序吗？

2. 请问Android平台下有没有提供一些获取npu信息的接口,就比如cpu的话可以在proc/stat下获取使用时间的相关信息在/sys/devices/system/cpu/cpux//cpufreq/cpuinfo_cur_freq下可以查看频率信息？

只看该作者 · 发表于 2020-4-25 17:32:30

1. 不是，npu_transfer_proxy是主控和NPU固件交互的服务，NPU和wifi模块一样自带一个firmware
2. 文档里有描述一些命令看一些信息，具体看下文档，我也记不清楚了。

只看该作者 · 发表于 2020-4-25 17:49:07

本帖最后由 Luhaibin 于 2020-4-25 17:51 编辑

jefferyzhang 发表于 2020-4-25 17:32
1. 不是，npu_transfer_proxy是主控和NPU固件交互的服务，NPU和wifi模块一样自带一个firmware
2. 文档里有 ...

请问具体是什么文档呢，E:\图库\doc.png

只看该作者 · 发表于 2020-4-25 20:23:16

jefferyzhang 发表于 2020-4-25 17:32
1. 不是，npu_transfer_proxy是主控和NPU固件交互的服务，NPU和wifi模块一样自带一个firmware
2. 文档里有 ...

我在wiki里面看到npu的运算性能是3.0TOPs。请问，就是只要是使用npu进行推理，npu就是以3.0TOPs进行推理的吗，还是运行的不同时刻有不同的运算性能，如果是后者，有没有相关接口可以获取当前运算性能呢？

只看该作者 · 发表于 2020-4-25 21:52:10

Luhaibin 发表于 2020-4-25 20:23
我在wiki里面看到npu的运算性能是3.0TOPs。请问，就是只要是使用npu进行推理，npu就是以3.0TOPs进行推理 ...

查询的文档我暂时找不到，主要只能查内存占用，时间片占用查不到。
这颗NPU有1920个INT8 MACs，192个INT16 MACs，64个FP16 MACs，在默认800Mhz频率下，他的定点处理能力就是3TOps，除了这些MAC计算单元，还有通用计算单元没算在这3TOps里。具体可以多看看我们资料。
如何跑满3TOps性能，可以查看rknn-toolkit文档的Trubleshoots那份的最后一章，网络优化建议。
建议你先把我们文档都通读一遍就会有大概了解了。

只看该作者 · 发表于 2020-4-26 08:42:23

jefferyzhang 发表于 2020-4-25 21:52
查询的文档我暂时找不到，主要只能查内存占用，时间片占用查不到。
这颗NPU有1920个INT8 MACs，192个INT16 ...

好的，十分感谢

Android下的NPU的驱动和性能评估

本帖子中包含更多资源