模型量化，用于校正的数据集需要处理吗？

[复制链接] · 发表于 2020-5-22 09:15:24

目前我的模型需要的输入是范围(0-1)的float32,(RGB).请问量化时读取的图片会处理成RGB吗？用于量化校正的数据集dataset里的图片需要先处理成模型所需的输入格式相同的(0-1)的float32吗？

显示全部楼层 · 发表于 2020-5-22 09:50:19

jefferyzhang 发表于 2020-5-22 09:32
量化时候喂jpg图片读出来就会用RGB模式

用于量化校正的数据集dataset里的图片需要先处理成模型所需的输入格式相同的(0-1)的float32吗？

显示全部楼层 · 发表于 2020-5-22 10:31:30

jefferyzhang 发表于 2020-5-22 10:05
详细请看文档。
如果你config配置了归一参数，dataset文件全部都会按config归一参数进行处理。
如果你con ...

config配置归一化参数(0.0 0.0 0.0 255.0)可以将数据自动变成float吗？我这样配置归一化参数量化后，模型推理结果异常，这里是不是归一化后输入模型的还是uint８?

显示全部楼层 · 发表于 2020-5-22 11:53:28

jefferyzhang 发表于 2020-5-22 10:42
肯定是float的，不然归一完不就是要么0要么1了。。。

那就奇怪了，输入和模型的输入要求一样，量化后推理结果很差，我得再找找原因了