Toybrick

关于量化的效果

qliu

注册会员

积分
162
楼主
发表于 2019-11-30 21:13:33    查看: 7508|回复: 2 | [复制链接]    打印 | 只看该作者
对于 rknn-toolkit 自带的例子 mobilenet-ssd,我生成了量化和不量化的两个 rknn 模型(将 rknn.build(do_quantization=True, dataset='./dataset.txt') 改为 rknn.build(do_quantization=False))。得到的结果基本一样(61 fps 左右),请问这个结果是否有问题?量化不是应该会快一点?

--> Init runtime environment
D RKNNAPI: ==============================================
D RKNNAPI: RKNN VERSION:
D RKNNAPI:   API: 1.2.0 (1190a71 build: 2019-09-25 12:39:26)
D RKNNAPI:   DRV: 0.9.9 (8509ec7 build: 2019-08-05 10:54:34)
D RKNNAPI: ==============================================
done
--> Running model
done
inference result:  [array([[ 1.1861349 ,  0.7674992 , -1.8140881 , ..., -0.06977263,
        -2.093179  , -0.34886315]], dtype=float32), array([[  2.3712468,  -5.1871037,  -8.447569 , ..., -10.967019 ,
        -10.522409 , -11.263425 ]], dtype=float32)]
========================================================================
                               Performance
========================================================================
Total Time(us): 16353
FPS: 61.15
========================================================================

回复

使用道具 举报

jefferyzhang

版主

积分
13580
沙发
发表于 2019-11-30 21:23:35 | 只看该作者
你再把自己代码检查下吧,不量化不可能达到61帧的。。。。。
回复

使用道具 举报

qliu

注册会员

积分
162
板凳
 楼主| 发表于 2019-11-30 21:25:39 | 只看该作者
不好意思,应该是我搞错了。在 rk1808 上重新跑的,不量化是 5.6 fps,量化是 48 fps。我在 rk3399pro 上应该跑错了。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表