caffe 模型转换为rknn后 识别一直错

jefferyzhang 发表于 2019-8-7 10:02
一样的，但是要注意rknn转换默认用fp16，可以强制fp32和原模型一致。这里可能会造成一点点精度误差。
数 ...

请问是不量化的话也是会转成fp16吗？然后怎么强制保持fp32不变呢？

jefferyzhang 发表于 2019-8-15 12:14
你可以看下混合量化那章。

你好，我看了一下，是混合量化用delete模式，把dtype改为none就是代表不量化，那么它就是p32的吗？还是说和正常没有开量化一样fp16的？文档写的不是很清楚

jefferyzhang 发表于 2019-8-15 12:14
你可以看下混合量化那章。

另外，还有一个问题，如果想看用用toolkit量化之后的网络具体参数（权重、偏置等），toolkit有输出的方法吗？我看使用指南里只有混合量化能输出最大最小值。

jefferyzhang 发表于 2019-8-21 09:15
我具体问了下NPU部门，他们说内部有办法可以，暂时还没开放接口。不过我已经要求他们开放API接口了，请关 ...

开放接口指的是，可以让模型转化成fp32，还是说可以输出量化后的网络参数呀？

jefferyzhang 发表于 2019-8-21 10:22
说的是 FP32

网络参数不确定他们会不会提供，提供也不确定你们如何直观的去看他。

感谢解答，我在做量化的事情，所以想看看toolkit量化的中间参数，和这个帖子的主题无关，让您误会了，抱歉。

jefferyzhang 发表于 2019-8-23 10:46
这个看NPU部门Roadmap有没有设计这么看了。目前他们是认为看rknn的参数并没有太大意义，量化后你需要经过 ...

好的，然后现在又遇到一个问题，使用toolkit的时候，量化校正的数据集一张和两百多张的准确率没有什么差别是为什么呀？而且量化完了asymmetric_quantized-u8和dynamic_fixed_point-8的效果都很差，我看到建议图片是大于两百张，这个结果是因为网络比较简单一张就够了吗？还是说两百张也太少了需要更多呢？网络是mobilenetV1，做的图片分类