模型量化，用于校正的数据集需要处理吗？

目前我的模型需要的输入是范围(0-1)的float32,(RGB).请问量化时读取的图片会处理成RGB吗？用于量化校正的数据集dataset里的图片需要先处理成模型所需的输入格式相同的(0-1)的float32吗？

量化时候喂jpg图片读出来就会用RGB模式

jefferyzhang 发表于 2020-5-22 09:32
量化时候喂jpg图片读出来就会用RGB模式

用于量化校正的数据集dataset里的图片需要先处理成模型所需的输入格式相同的(0-1)的float32吗？

liuwenzhen 发表于 2020-5-22 09:50
用于量化校正的数据集dataset里的图片需要先处理成模型所需的输入格式相同的(0-1)的float32吗？ ...

详细请看文档。
如果你config配置了归一参数，dataset文件全部都会按config归一参数进行处理。
如果你config配置了 0 0 0 1，也就是不做归一，那你dataset文件就全部要弄到0-1后再送量化。这时候你应该不能存jpeg格式，要用npy

jefferyzhang 发表于 2020-5-22 10:05
详细请看文档。
如果你config配置了归一参数，dataset文件全部都会按config归一参数进行处理。
如果你con ...

config配置归一化参数(0.0 0.0 0.0 255.0)可以将数据自动变成float吗？我这样配置归一化参数量化后，模型推理结果异常，这里是不是归一化后输入模型的还是uint８?

liuwenzhen 发表于 2020-5-22 10:31
config配置归一化参数(0.0 0.0 0.0 255.0)可以将数据自动变成float吗？我这样配置归一化参数量化后，模型 ...

肯定是float的，不然归一完不就是要么0要么1了。。。

jefferyzhang 发表于 2020-5-22 10:42
肯定是float的，不然归一完不就是要么0要么1了。。。

那就奇怪了，输入和模型的输入要求一样，量化后推理结果很差，我得再找找原因了