Toybrick

rknn1.32混合量化修改量化参数出错

dalin

注册会员

积分
57
楼主
发表于 2020-7-16 18:28:24    查看: 6067|回复: 0 | [复制链接]    打印 | 只看该作者
在PC ubuntu16.04上rknn模拟器跑混合量化,用的yolov3-tiny来做的混合量化
使用默认的u8量化,
修改量化的配置参数
  u8 修改为 i16

正常生成rknn模型,但是推理的时候出错
-->loading model
loading model done
--> Init runtime environment
W [set_chip_platform_env:187]evaluate model on RK1808
E [rknn_QuantAffineCheck:79]input dtype[4] != weight dtype[3]
E [rknn_QuantCheck:386]input_scale[0.003922] * weight_scale[0.152061] != bias_scale[0.000596]
E [setup_node:383]Check node[0] CONV2D fail
段错误 (核心已转储)


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表