Toybrick

混合量化的问题

天赐

新手上路

积分
9
发表于 2024-11-26 17:41:34    查看: 133|回复: 0 | [复制链接]    打印 | 显示全部楼层
1,我按照github上这个例子,rknn-toolkit2/rknn-toolkit2/examples/functions/hybrid_quant/。尝试修改.cfg文件。但是在运行step2的时候报错: hybrid_quantization_step2: Invalid operands name 'onnx:ad_118::float16' in custom_quantize_layers!。

2,我尝试开启proposal,即 rknn.hybrid_quantization_step1(dataset='./data.txt', proposal=True)。但生成的custom_quantize_layers: {}   中没有任何东西是正常的嘛,我看到我开启量化,打印的精度表,有大量标黄的地方

谢谢
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表