Toybrick
标题:
混合量化的问题
[打印本页]
作者:
天赐
时间:
2024-11-26 17:41
标题:
混合量化的问题
1,我按照github上这个例子,rknn-toolkit2/rknn-toolkit2/examples/functions/hybrid_quant/。尝试修改.cfg文件。但是在运行step2的时候报错: hybrid_quantization_step2: Invalid operands name 'onnx:
ad_118::float16' in custom_quantize_layers!。
2,我尝试开启proposal,即 rknn.hybrid_quantization_step1(dataset='./data.txt', proposal=True)。但生成的custom_quantize_layers: {} 中没有任何东西是正常的嘛,我看到我开启量化,打印的精度表,有大量标黄的地方
谢谢
欢迎光临 Toybrick (https://t.rock-chips.com/)
Powered by Discuz! X3.3