rknn1.32混合量化修改量化参数出错

[复制链接] · 发表于 2020-7-16 18:28:24

在PC ubuntu16.04上rknn模拟器跑混合量化，用的yolov3-tiny来做的混合量化
使用默认的u8量化，
修改量化的配置参数
u8 修改为 i16

正常生成rknn模型，但是推理的时候出错
-->loading model
loading model done
--> Init runtime environment
W [set_chip_platform_env:187]evaluate model on RK1808
E [rknn_QuantAffineCheck:79]input dtype[4] != weight dtype[3]
E [rknn_QuantCheck:386]input_scale[0.003922] * weight_scale[0.152061] != bias_scale[0.000596]
E [setup_node:383]Check node[0] CONV2D fail
段错误 (核心已转储)