Toybrick

混合量化修改配置文件报错

wang64

中级会员

积分
205
楼主
发表于 2020-11-26 10:01:34    查看: 7509|回复: 1 | [复制链接]    打印 | 只看该作者
按照Rockchip_User_Guide_RKNN_Toolkit_V1.4.0_CN.pdf文档里关于混合量化的教程,已经使用hybrid_quantization_step1生成量化配置文件,模型配置文件,模型权重文件。
之后在量化配置文件中添加要量化层的字典后,在hybrid_quantization_step2中一直报错
请问这是我在配置文件中的添加操作出错了吗?还是其他错误?



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

wang64

中级会员

积分
205
沙发
 楼主| 发表于 2020-11-27 11:08:52 | 只看该作者
Rockchip_User_Guide_RKNN_Toolkit_V1.2.1_CN.pdf文档里指出,如果将某些量化层改成非量化层,则找到不要量化的层,将它的 input 节点的 out 项、本层的 weight/bias 项从量化配置文件中删除。
Rockchip_User_Guide_RKNN_Toolkit_V1.4.0_CN.pdf文档里指出,如果将某些量化层改成非量化层,则找到不要量化的层,将这些层名加到customized_quantize_layers 字典中,值为 float32。
请问这两种方式在本质上都是一样的吗?
或者说底层操作原理都相同,只是在1.4.0中对1.2.1中的操作做了优化,使其操作起来更简单方便?
为什么我按照1.2.1中方式可以调用hybrid_quantization_step2接口构建混合量化RKNN模型,按照1.4.0中的方式就不行了呢?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表