小白冒昧问一句，rknn模型可以在cpu上跑吗，可以的话要怎....

[复制链接] · 发表于 2020-3-24 23:14:19

如题，想看一下cpu和npu这方面的性能差异。

只看该作者 · 发表于 2020-3-25 08:21:49

不能，PC上的运行是仿真，板子上不进行仿真直接实地跑。
CPU差异还不简单，你模型不转换RKNN，直接用原来的框架运行不就是CPU了

只看该作者 · 发表于 2020-4-4 13:56:45

嗯嗯，感谢大哥，已经试着用原来的模型跑了

只看该作者 · 发表于 2021-10-15 12:22:10

jefferyzhang 发表于 2020-3-25 08:21
不能，PC上的运行是仿真，板子上不进行仿真直接实地跑。
CPU差异还不简单，你模型不转换RKNN，直接用原来的 ...

你好，我再确认一下。
请问rknn模型可以在RK产品的ARMCPU，ARMGPU上跑吗？
如果可以，应该修改python脚本里的哪些参数呢，rknn.inference() ?
如果不可以，意味着rknn-toolkit只能用NPU；要在原始框架，如onxx等，使用ARMCPU，ARMGPU？

只看该作者 · 发表于 2021-10-15 12:26:44

kiwigogogo 发表于 2021-10-15 12:22
你好，我再确认一下。
请问rknn模型可以在RK产品的ARMCPU，ARMGPU上跑吗？
如果可以，应该修改python脚本 ...

不能，原始的直接跑原始模型不就在CPU上跑了

只看该作者 · 发表于 2021-10-15 12:43:00

jefferyzhang 发表于 2021-10-15 12:26
不能，原始的直接跑原始模型不就在CPU上跑了

rknn-toolkit不能调用ARMCPU，ARMGPU。明白了，谢谢！