关于rknn 量化的数据集的问题

[复制链接] · 发表于 2019-9-27 14:46:27

你好，想问一下rknn-toolkit 的config接口对量化有影响吗，即量化用到的dataset.txt 里面的图片需要自行做预处理（resize、normalize等）吗，还是说rknn做量化时会根据config 的 normalize 和载入的模型的 input_size 去做 normalize及 resize呢？毕竟模型训练时的图片输入是浮点的，如果量化时的输入不一致，应该会影响量化的精度吧。这方面没看到文档有具体的介绍，谢谢~ rknn.config(channel_mean_value='128 128 128 128', reorder_channel='0 1 2',epochs=103,batch_size=10)

只看该作者 · 发表于 2019-9-29 08:22:58

1. config接口对量化时和正常推理时都有效
2. 量化时候会自动resize到input尺寸，normalize是你config的值。
3. 这方面文档有介绍，包括混合量化，以及本版置顶的rknntook kit FAQ都有介绍。

只看该作者 · 发表于 2019-12-17 13:33:15

能否自定义normalize,目前仅支持 mean0 mean1 mean2 scal的方式，按方差归一化的方式不支持，如（value/scal -mean）/ 方差

只看该作者 · 发表于 2019-12-18 12:43:18

iamher0 发表于 2019-12-17 13:33
能否自定义normalize,目前仅支持 mean0 mean1 mean2 scal的方式，按方差归一化的方式不支持，如（value/s ...

照文档的写法看你可能要自行先自己normalize，然后config里设0 0 0 1