Toybrick

楼主: zhuhairong

模型转换,量化的一些问题

jefferyzhang

超级版主

积分
1223
发表于 6 天前 | 显示全部楼层
abcehac 发表于 2019-8-13 13:12
噢噢!好嘞!!!多谢!

模型转换这里我觉得很神奇,我只需要给模型resize后的图片,都不用给每个图片的 ...

就用默认就好了,设置多少合理是没有准确答案的,只能不停的试验(深度学习不就是这样)
量化和Label是没有关系的,他的目的是将每一层的float转成int8 + 反量化参数,所以需要大量图片来测试每层数据通过时候这层的定浮点转换如何在最小精度损失情况下完成量化。
量化是一门很大的学问,要具体研究下,我对量化的理解可能也不够专业。
回复

使用道具 举报

abcehac

注册会员

积分
90
发表于 6 天前 | 显示全部楼层
jefferyzhang 发表于 2019-8-13 18:34
就用默认就好了,设置多少合理是没有准确答案的,只能不停的试验(深度学习不就是这样)
量化和Label是没 ...

噢!!原来是这个逻辑!那我是不是也应该放进去一些假的图片或者说不在我label内的图片,这样是不是能起到防止量化后的模型过度拟合呢???

我在1.1.0版本的rknn/api/rknn.py 中看到 config和build两个类中都有了batch_size参数,build中是rknn_batch_size ,范围是[0-128),默认值为1。官方文档和py中都没有写明这两个batch_size的关系。所以我准备把他们都先设置成30看看,数大了,我的电脑跑不动。
回复

使用道具 举报

jefferyzhang

超级版主

积分
1223
发表于 6 天前 | 显示全部楼层
abcehac 发表于 2019-8-13 22:19
噢!!原来是这个逻辑!那我是不是也应该放进去一些假的图片或者说不在我label内的图片,这样是不是能起 ...

量化不是训练!!!
量化只是把浮点转定点,运算速度快而已
回复

使用道具 举报

abcehac

注册会员

积分
90
发表于 5 天前 | 显示全部楼层
jefferyzhang 发表于 2019-8-13 23:27
量化不是训练!!!
量化只是把浮点转定点,运算速度快而已

哈哈哈哈, 看来我又想多了……
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 关于Toybrick


快速回复 返回顶部 返回列表