Toybrick

yolov5 onnx轉rknn時,quantize疑問

Stuart

注册会员

积分
155
发表于 2021-10-22 08:27:55    查看: 1023|回复: 2 | [复制链接]    打印 | 显示全部楼层
yolov5使用的训练代码取自ultralytics/yolov5 master分支。
环境:PC ubuntu18.04 x86_64
rknn_tool v1.7.0

python3.6.9环境
tensorflow-gpu==1.14.0
torch==1.2.0
onnx==1.6
torchvision == 0.4.0

插入TB-RK1808S0
用yolov5 onnx轉檔rknn時, 設定如下
    rknn.config(reorder_channel='0 1 2',
                mean_values=[[0, 0, 0]],
                std_values=[[255, 255, 255]],
                optimization_level=3,
                target_platform = 'rk1808',
                output_optimize=1)
    ret = rknn.build(do_quantization=QUANTIZE_ON, dataset=DATASET)


轉檔都沒有問題,但是使用一張題圖片做quantization  跟使用2000張圖片做quantization
轉檔出來的model  ,同樣測試相同的2000張jpg
測試的結果準確度卻差異不大


請問是有甚麼需要注意的問題? 或是官方有甚麼說明嗎?
謝謝
回复

使用道具 举报

bobby_jiang

高级会员

积分
536
发表于 2021-10-27 09:23:30 | 显示全部楼层
这不是bug,量化数据本来就不是越多越好,输入数据的分布范围(最大值,最小值)如果和测试数据的分布范围大致相当,效果会比较好。
回复

使用道具 举报

Stuart

注册会员

积分
155
 楼主| 发表于 2021-10-28 09:21:42 | 显示全部楼层
本帖最后由 Stuart 于 2021-10-28 09:31 编辑

所以要用幾張做量化,以及量化照片的選擇,
只能視自己model的不同,自行選擇量化張數以及參數調整去做測試嗎?還有你說的输入数据的分布范围(最大值,最小值) 是指0~255這樣嗎?


另外我們用PC測試的結果 跟rknn 轉檔量化後的結果對比, rknn測試的正確率下降了許多
請問有yolov5的rknn模型在coco數據集的測試數據嗎?

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表