Toybrick

标题: 关于rknn 量化的数据集的问题 [打印本页]

作者: jy_dll 时间: 2019-9-27 14:46
标题: 关于rknn 量化的数据集的问题
你好，想问一下rknn-toolkit 的config接口对量化有影响吗，即量化用到的dataset.txt 里面的图片需要自行做预处理（resize、normalize等）吗，还是说rknn做量化时会根据config 的 normalize 和载入的模型的 input_size 去做 normalize及 resize呢？毕竟模型训练时的图片输入是浮点的，如果量化时的输入不一致，应该会影响量化的精度吧。这方面没看到文档有具体的介绍，谢谢~ rknn.config(channel_mean_value='128 128 128 128', reorder_channel='0 1 2',epochs=103,batch_size=10)

作者: jefferyzhang 时间: 2019-9-29 08:22
1. config接口对量化时和正常推理时都有效
2. 量化时候会自动resize到input尺寸，normalize是你config的值。
3. 这方面文档有介绍，包括混合量化，以及本版置顶的rknntook kit FAQ都有介绍。

作者: iamher0 时间: 2019-12-17 13:33
能否自定义normalize,目前仅支持 mean0 mean1 mean2 scal的方式，按方差归一化的方式不支持，如（value/scal -mean）/ 方差

作者: tigertang 时间: 2019-12-18 12:43

iamher0 发表于 2019-12-17 13:33
能否自定义normalize,目前仅支持 mean0 mean1 mean2 scal的方式，按方差归一化的方式不支持，如（value/s ...

照文档的写法看你可能要自行先自己normalize，然后config里设0 0 0 1

欢迎光临 Toybrick (https://t.rock-chips.com/)