Toybrick

标题: 混合量化修改配置文件报错 [打印本页]

作者: wang64 时间: 2020-11-26 10:01
标题: 混合量化修改配置文件报错
按照Rockchip_User_Guide_RKNN_Toolkit_V1.4.0_CN.pdf文档里关于混合量化的教程，已经使用hybrid_quantization_step1生成量化配置文件，模型配置文件，模型权重文件。
之后在量化配置文件中添加要量化层的字典后，在hybrid_quantization_step2中一直报错
请问这是我在配置文件中的添加操作出错了吗？还是其他错误？

作者: wang64 时间: 2020-11-27 11:08
Rockchip_User_Guide_RKNN_Toolkit_V1.2.1_CN.pdf文档里指出，如果将某些量化层改成非量化层，则找到不要量化的层，将它的 input 节点的 out 项、本层的 weight/bias 项从量化配置文件中删除。
Rockchip_User_Guide_RKNN_Toolkit_V1.4.0_CN.pdf文档里指出，如果将某些量化层改成非量化层，则找到不要量化的层,将这些层名加到customized_quantize_layers 字典中,值为 float32。
请问这两种方式在本质上都是一样的吗？
或者说底层操作原理都相同，只是在1.4.0中对1.2.1中的操作做了优化，使其操作起来更简单方便？
为什么我按照1.2.1中方式可以调用hybrid_quantization_step2接口构建混合量化RKNN模型，按照1.4.0中的方式就不行了呢？

欢迎光临 Toybrick (https://t.rock-chips.com/)