rknn量化过程报错问题

[复制链接] · 发表于 2020-10-27 09:54:54

本帖最后由 shadowhtx 于 2020-10-27 10:06 编辑

请教下rknn量化问题，环境在pc机上使用官方提供的rknn-toolkit-1.4.0镜像进行量化；
uint8量化代码如下：

量化过程报错信息如下：
量化已经进行到58.00%，说明代码没什么问题，看样子是量化的图片不符合要求吗？量化图片从训练数据集中随机选取的5000张

只看该作者 · 发表于 2020-10-28 10:54:40

已解决，量化图片中混有灰度图

rknn量化过程报错问题

本帖子中包含更多资源