Toybrick

模型转换,量化的一些问题

zhuhairong

注册会员

积分
148
楼主
发表于 2019-7-18 11:17:54    查看: 30558|回复: 23 | [复制链接]    打印 | 显示全部楼层
mobilenet ssd caffe模型转换到 rknn 模型,转换过程的打印:
--> config model
done
--> Loading model
W Unhandle status: the input shape of reshape layer mbox_conf_reshape_186 is not 4-D
done
--> Building model
W The RKNN Model generated can not run on simulator when pre_compile is True.
W Unhandle status: the input shape of reshape layer mbox_conf_reshape_186 is not 4-D
W Unhandle status: the input shape of reshape layer mbox_conf_reshape_186 is not 4-D
done
--> Export RKNN model
done


转换完的模型效果和pc有比较大的差距。
1. 请问W Unhandle status: the input shape of reshape layer mbox_conf_reshape_186 is not 4-D, 会引起什么问题?
2. 量化的时候图片多少,差别很大,图片多效果也不一定好,甚至出现乱框。如何量化可以达到和原始模型一样的效果 ?
回复

使用道具 举报

zhuhairong

注册会员

积分
148
沙发
 楼主| 发表于 2019-7-29 19:13:33 | 显示全部楼层
多谢,混合量化也是个麻烦的事情,不清楚哪些层影响大。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表