|
在PC ubuntu16.04上rknn模拟器跑混合量化,用的yolov3-tiny来做的混合量化
使用默认的u8量化,
修改量化的配置参数
u8 修改为 i16
正常生成rknn模型,但是推理的时候出错
-->loading model
loading model done
--> Init runtime environment
W [set_chip_platform_env:187]evaluate model on RK1808
E [rknn_QuantAffineCheck:79]input dtype[4] != weight dtype[3]
E [rknn_QuantCheck:386]input_scale[0.003922] * weight_scale[0.152061] != bias_scale[0.000596]
E [setup_node:383]Check node[0] CONV2D fail
段错误 (核心已转储)
|
|