Toybrick

caffe 模型转换为rknn后 识别一直错

jefferyzhang

版主

积分
12953
楼主
发表于 2019-5-17 12:03:05 | 显示全部楼层
可以的话建议你一层一层输入输出转换调试,看看具体是哪一层造成的输出差异
回复

使用道具 举报

jefferyzhang

版主

积分
12953
沙发
发表于 2019-8-5 11:58:09 | 显示全部楼层
puyanan 发表于 2019-8-5 09:49
是否要将中间的两个层分别作为输入输出层,重新转换成rknn模型,然后再查看这两层的数据?我还没有试,你 ...

是的,可以的,但是 建议你 卷积+激活+池化 不要拆开
回复

使用道具 举报

jefferyzhang

版主

积分
12953
板凳
发表于 2019-8-7 10:02:39 | 显示全部楼层
puyanan 发表于 2019-8-5 17:58
您好。在RK虚拟机里面,将pb模型转换成rknn模型,不量化(do_quantization=False)。那么模型转换前后的中 ...

一样的,但是要注意rknn转换默认用fp16,可以强制fp32和原模型一致。这里可能会造成一点点精度误差。
数量级不一样要检查你的代码和转换代码,是否归一化设置有问题。

rknn是可以自动归一化的,不要重复做了归一处理
回复

使用道具 举报

jefferyzhang

版主

积分
12953
地板
发表于 2019-8-15 12:14:31 | 显示全部楼层
wzc 发表于 2019-8-15 10:44
请问是不量化的话也是会转成fp16吗?然后怎么强制保持fp32不变呢?

你可以看下混合量化那章。
回复

使用道具 举报

jefferyzhang

版主

积分
12953
5#
发表于 2019-8-21 09:11:33 | 显示全部楼层
wzc 发表于 2019-8-20 19:58
另外,还有一个问题,如果想看用用toolkit量化之后的网络具体参数(权重、偏置等),toolkit有输出的方法 ...

暂时没有办法查看,可以暂且认为和原模型是一样的
回复

使用道具 举报

jefferyzhang

版主

积分
12953
6#
发表于 2019-8-21 09:15:52 | 显示全部楼层
wzc 发表于 2019-8-20 19:12
你好,我看了一下,是混合量化用delete模式,把dtype改为none就是代表不量化,那么它就是p32的吗?还是说 ...

我具体问了下NPU部门,他们说内部有办法可以,暂时还没开放接口。不过我已经要求他们开放API接口了,请关注后续版本更新。
回复

使用道具 举报

jefferyzhang

版主

积分
12953
7#
发表于 2019-8-21 10:22:12 | 显示全部楼层
wzc 发表于 2019-8-21 10:07
开放接口指的是,可以让模型转化成fp32,还是说可以输出量化后的网络参数呀? ...

说的是 FP32

网络参数不确定他们会不会提供,提供也不确定你们如何直观的去看他。
你们可以暂且认为参数是和原模型一样的,为什么要去怀疑参数呢。
回复

使用道具 举报

jefferyzhang

版主

积分
12953
8#
发表于 2019-8-23 10:46:21 | 显示全部楼层
wzc 发表于 2019-8-23 08:55
感谢解答,我在做量化的事情,所以想看看toolkit量化的中间参数,和这个帖子的主题无关,让您误会了,抱 ...

这个看NPU部门Roadmap有没有设计这么看了。目前他们是认为看rknn的参数并没有太大意义,量化后你需要经过反量化计算才能知道源参数是什么,去看这些参数并不是一个好的debug方式。
回复

使用道具 举报

jefferyzhang

版主

积分
12953
9#
发表于 2019-8-23 11:46:10 | 显示全部楼层
wzc 发表于 2019-8-23 11:34
好的,然后现在又遇到一个问题,使用toolkit的时候,量化校正的数据集一张和两百多张的准确率没有什么差 ...

这种东西就是只能靠不停的实验得出结果。200张其实也不够多,我们客户都是用上万张去量化的。
量化是个很复杂的技术,如果不满意结果,是可以通过混合量化来细调的,好的量化技术是可以无限接近于原模型精度,我们也只是提供了量化的渠道和方式,至于如何调参能达到完美的精度,这个只能具体问题具体分析。
甚至只能不停的尝试来解决(神经网络目前没有足够的理论支撑,大部分都是靠不停的实验来提高精度)
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表