Toybrick

Only support ntb mode on Windows_x64

rryy

新手上路

积分
37
楼主
发表于 2020-5-20 17:25:39    查看: 7924|回复: 5 | [复制链接]    打印 | 只看该作者
你好:
我在windows7 x64上安装rknn-toolkit-v1.3.0后,模型转换没有问题,但是执行ret = rknn.init_runtime(target='rk3399pro')时,提示Only support ntb mode on Windows_x64。
执行list_devices()也找不到设备,可能是什么问题呢?谢谢!
回复

使用道具 举报

jefferyzhang

版主

积分
13580
沙发
发表于 2020-5-21 08:52:02 | 只看该作者
请直接放到开发版上运行,target留空
回复

使用道具 举报

rryy

新手上路

积分
37
板凳
 楼主| 发表于 2020-5-21 13:53:11 | 只看该作者
jefferyzhang 发表于 2020-5-21 08:52
请直接放到开发版上运行,target留空

谢谢回复。
我把模型拷贝到开发版上,使用rknn_api运行起来了,结果也是OK的。但是感觉速度不太对,像是运行在CPU上的速度,使用rknn_api时,默认是运行在npu上吗?有接口可以指定运行在cpu还是npu上吗?谢谢。
我用的是rknn-api-1.3.0/rknn_api/arm/lib64/librknn_api.so
回复

使用道具 举报

jefferyzhang

版主

积分
13580
地板
发表于 2020-5-21 14:15:36 | 只看该作者
rryy 发表于 2020-5-21 13:53
谢谢回复。
我把模型拷贝到开发版上,使用rknn_api运行起来了,结果也是OK的。但是感觉速度不太对,像是 ...

开发版上只会NPU,开发版没有仿真器
回复

使用道具 举报

rryy

新手上路

积分
37
5#
 楼主| 发表于 2020-5-21 14:50:56 | 只看该作者
jefferyzhang 发表于 2020-5-21 14:15
开发版上只会NPU,开发版没有仿真器

谢谢。明白了。
如果模型转换时没有量化,即rknn.build(do_quantization=False),生成的模型在npu上推断时会以fp16方式计算吗?谢谢。
回复

使用道具 举报

jefferyzhang

版主

积分
13580
6#
发表于 2020-5-21 16:15:41 | 只看该作者
rryy 发表于 2020-5-21 14:50
谢谢。明白了。
如果模型转换时没有量化,即rknn.build(do_quantization=False),生成的模型在npu上推断时 ...

是的
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表