jefferyzhang
版主
使用道具 举报
Qmax 发表于 2019-7-24 17:46 我只想问下,已经用tflite量化好的模型在转的时候要指定量化类型吗
abcehac 发表于 2019-8-8 12:12 请问,我是不是可以理解成,在执行 rknn_transform.py 时,do_quantization=True,我在data中放入的图片 ...
abcehac 发表于 2019-8-8 14:26 感谢解答!!!也就是说不开启量化的话,NPU的计算力达不到最大! 也麻烦您帮忙看看《yolov3_demo中py文 ...
17708867778 发表于 2019-8-12 13:56 版主您好,我们在量化的时候用了8W+的图,但是在转换的过程,感觉根本没有加载图片去量化,量化函数是Tru ...
abcehac 发表于 2019-8-12 23:00 如果要是量化10W+的图片,那是不是batch_size = 1000000? 我现在开启量化,把coco2014的所有图片名字都放 ...
abcehac 发表于 2019-8-13 13:12 噢噢!好嘞!!!多谢! 模型转换这里我觉得很神奇,我只需要给模型resize后的图片,都不用给每个图片的 ...
abcehac 发表于 2019-8-13 22:19 噢!!原来是这个逻辑!那我是不是也应该放进去一些假的图片或者说不在我label内的图片,这样是不是能起 ...
呱唧 发表于 2020-4-2 18:04 do_quantization设置成False的时候默认是FP16吗?那要怎么设置成FP32呢?
本版积分规则 回帖后跳转到最后一页
产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick
瑞芯微电子股份有限公司所有 闽ICP备19006074号-1 闽公网安备 35010202001061号