Only support ntb mode on Windows_x64

[复制链接] · 发表于 2020-5-20 17:25:39

你好：
我在windows7 x64上安装rknn-toolkit-v1.3.0后，模型转换没有问题，但是执行ret = rknn.init_runtime(target='rk3399pro')时，提示Only support ntb mode on Windows_x64。
执行list_devices()也找不到设备，可能是什么问题呢？谢谢！

只看该作者 · 发表于 2020-5-21 08:52:02

请直接放到开发版上运行，target留空

只看该作者 · 发表于 2020-5-21 13:53:11

jefferyzhang 发表于 2020-5-21 08:52
请直接放到开发版上运行，target留空

谢谢回复。
我把模型拷贝到开发版上，使用rknn_api运行起来了，结果也是OK的。但是感觉速度不太对，像是运行在CPU上的速度，使用rknn_api时，默认是运行在npu上吗？有接口可以指定运行在cpu还是npu上吗？谢谢。
我用的是rknn-api-1.3.0/rknn_api/arm/lib64/librknn_api.so

只看该作者 · 发表于 2020-5-21 14:15:36

rryy 发表于 2020-5-21 13:53
谢谢回复。
我把模型拷贝到开发版上，使用rknn_api运行起来了，结果也是OK的。但是感觉速度不太对，像是 ...

开发版上只会NPU，开发版没有仿真器

只看该作者 · 发表于 2020-5-21 14:50:56

jefferyzhang 发表于 2020-5-21 14:15
开发版上只会NPU，开发版没有仿真器

谢谢。明白了。
如果模型转换时没有量化，即rknn.build(do_quantization=False),生成的模型在npu上推断时会以fp16方式计算吗？谢谢。

只看该作者 · 发表于 2020-5-21 16:15:41

rryy 发表于 2020-5-21 14:50
谢谢。明白了。
如果模型转换时没有量化，即rknn.build(do_quantization=False),生成的模型在npu上推断时 ...

是的