Toybrick

做混合量化hybrid_quantization

fjndfazp

注册会员

积分
122
楼主
发表于 2020-5-30 17:37:20    查看: 10371|回复: 2 | [复制链接]    打印 | 只看该作者
在做common_function_demos\hybrid_quantization里面的混合量化step1之后,会生成一个cfg配置文件,根据下面的解释,我要怎么设置每一层的量化方式?
%YAML 1.2
---
# add layer name and corresponding quantized_dtype to customized_quantize_layers, e.g conv2_3: float32
customized_quantize_layers: {}

比如:截图中的,如果attach_concat_1/out0_0不量化,是不是直接写下面这样?如果有多个层都需要不做量化呢?有没有举例说明一下
customized_quantize_layers: {attach_concat_1/out0_0: float32}


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

jefferyzhang

版主

积分
13580
沙发
发表于 2020-5-30 17:46:09 | 只看该作者
参看rknn-toolkit里的sample,有完整混合量化的sample的
回复

使用道具 举报

brunolin

高级会员

积分
640
板凳
发表于 2021-2-19 13:40:12 | 只看该作者
customized_quantize_layers: {
    attach_concat_1/out0_0: float32,
    layer_000/xxx_000: float32,
    layer_111/xxx_111: float32
}
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表