模型量化，用于校正的数据集需要处理吗？

量化时候喂jpg图片读出来就会用RGB模式

liuwenzhen 发表于 2020-5-22 09:50
用于量化校正的数据集dataset里的图片需要先处理成模型所需的输入格式相同的(0-1)的float32吗？ ...

详细请看文档。
如果你config配置了归一参数，dataset文件全部都会按config归一参数进行处理。
如果你config配置了 0 0 0 1，也就是不做归一，那你dataset文件就全部要弄到0-1后再送量化。这时候你应该不能存jpeg格式，要用npy

liuwenzhen 发表于 2020-5-22 10:31
config配置归一化参数(0.0 0.0 0.0 255.0)可以将数据自动变成float吗？我这样配置归一化参数量化后，模型 ...

肯定是float的，不然归一完不就是要么0要么1了。。。