Toybrick

标题: Only support ntb mode on Windows_x64 [打印本页]

作者: rryy 时间: 2020-5-20 17:25
标题: Only support ntb mode on Windows_x64
你好：
我在windows7 x64上安装rknn-toolkit-v1.3.0后，模型转换没有问题，但是执行ret = rknn.init_runtime(target='rk3399pro')时，提示Only support ntb mode on Windows_x64。
执行list_devices()也找不到设备，可能是什么问题呢？谢谢！

作者: jefferyzhang 时间: 2020-5-21 08:52
请直接放到开发版上运行，target留空

作者: rryy 时间: 2020-5-21 13:53

jefferyzhang 发表于 2020-5-21 08:52
请直接放到开发版上运行，target留空

谢谢回复。
我把模型拷贝到开发版上，使用rknn_api运行起来了，结果也是OK的。但是感觉速度不太对，像是运行在CPU上的速度，使用rknn_api时，默认是运行在npu上吗？有接口可以指定运行在cpu还是npu上吗？谢谢。
我用的是rknn-api-1.3.0/rknn_api/arm/lib64/librknn_api.so

作者: jefferyzhang 时间: 2020-5-21 14:15

rryy 发表于 2020-5-21 13:53
谢谢回复。
我把模型拷贝到开发版上，使用rknn_api运行起来了，结果也是OK的。但是感觉速度不太对，像是 ...

开发版上只会NPU，开发版没有仿真器

作者: rryy 时间: 2020-5-21 14:50

jefferyzhang 发表于 2020-5-21 14:15
开发版上只会NPU，开发版没有仿真器

谢谢。明白了。
如果模型转换时没有量化，即rknn.build(do_quantization=False),生成的模型在npu上推断时会以fp16方式计算吗？谢谢。

作者: jefferyzhang 时间: 2020-5-21 16:15

rryy 发表于 2020-5-21 14:50
谢谢。明白了。
如果模型转换时没有量化，即rknn.build(do_quantization=False),生成的模型在npu上推断时 ...

是的

欢迎光临 Toybrick (https://t.rock-chips.com/)