Toybrick

标题: yolov5 onnx轉rknn時,quantize疑問 [打印本页]

作者: Stuart 时间: 2021-10-22 08:27
标题: yolov5 onnx轉rknn時,quantize疑問
yolov5使用的训练代码取自ultralytics/yolov5 master分支。
环境：PC ubuntu18.04 x86_64
rknn_tool v1.7.0

python3.6.9环境
tensorflow-gpu==1.14.0
torch==1.2.0
onnx==1.6
torchvision == 0.4.0

插入TB-RK1808S0
用yolov5 onnx轉檔rknn時, 設定如下
rknn.config(reorder_channel='0 1 2',
            mean_values=[[0, 0, 0]],
            std_values=[[255, 255, 255]],
            optimization_level=3,
            target_platform = 'rk1808',
            output_optimize=1)
ret = rknn.build(do_quantization=QUANTIZE_ON, dataset=DATASET)

轉檔都沒有問題,但是使用一張題圖片做quantization  跟使用2000張圖片做quantization
轉檔出來的model  ,同樣測試相同的2000張jpg
測試的結果準確度卻差異不大

請問是有甚麼需要注意的問題? 或是官方有甚麼說明嗎?
謝謝

作者: bobby_jiang 时间: 2021-10-27 09:23
这不是bug，量化数据本来就不是越多越好，输入数据的分布范围（最大值，最小值）如果和测试数据的分布范围大致相当，效果会比较好。

作者: Stuart 时间: 2021-10-28 09:21
本帖最后由 Stuart 于 2021-10-28 09:31 编辑

所以要用幾張做量化,以及量化照片的選擇,
只能視自己model的不同,自行選擇量化張數以及參數調整去做測試嗎?還有你說的输入数据的分布范围（最大值，最小值）是指0~255這樣嗎?

另外我們用PC測試的結果跟rknn 轉檔量化後的結果對比, rknn測試的正確率下降了許多
請問有yolov5的rknn模型在coco數據集的測試數據嗎?

欢迎光临 Toybrick (https://t.rock-chips.com/)