Toybrick

rknn混合量化问题

brunolin

高级会员

积分
617
楼主
发表于 2021-9-30 09:16:43 | 显示全部楼层
請參考Rockchip_Trouble_Shooting_RKNN_Toolkit_V1.6.1_CN.pdf
1.4.2  转换模型时如果 do_quantization 为 False,是否也会进行量化,量化精度是什么?(因为转换后模型体积小了接近一半)
分两种情况,当导入的模型是量化的模型时,do_quantization=False 会使用该模型里面
的量化参数,具体请参考 1.4.1 的回答。当导入的模型是非量化模型时,do_quantization=False
不会做量化的操作,但是会把权重从 float32 转成 float16,这块不会有精度损失。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表