caffe 模型转换为rknn后 识别一直错

puyanan 发表于 2019-8-5 17:58
您好。在RK虚拟机里面，将pb模型转换成rknn模型，不量化(do_quantization=False)。那么模型转换前后的中 ...

一样的，但是要注意rknn转换默认用fp16，可以强制fp32和原模型一致。这里可能会造成一点点精度误差。
数量级不一样要检查你的代码和转换代码，是否归一化设置有问题。

rknn是可以自动归一化的，不要重复做了归一处理

jefferyzhang 发表于 2019-8-7 10:02
一样的，但是要注意rknn转换默认用fp16，可以强制fp32和原模型一致。这里可能会造成一点点精度误差。
数 ...

请问是不量化的话也是会转成fp16吗？然后怎么强制保持fp32不变呢？

wzc 发表于 2019-8-15 10:44
请问是不量化的话也是会转成fp16吗？然后怎么强制保持fp32不变呢？

你可以看下混合量化那章。

jefferyzhang 发表于 2019-8-15 12:14
你可以看下混合量化那章。

你好，我看了一下，是混合量化用delete模式，把dtype改为none就是代表不量化，那么它就是p32的吗？还是说和正常没有开量化一样fp16的？文档写的不是很清楚

jefferyzhang 发表于 2019-8-15 12:14
你可以看下混合量化那章。

另外，还有一个问题，如果想看用用toolkit量化之后的网络具体参数（权重、偏置等），toolkit有输出的方法吗？我看使用指南里只有混合量化能输出最大最小值。

wzc 发表于 2019-8-20 19:58
另外，还有一个问题，如果想看用用toolkit量化之后的网络具体参数（权重、偏置等），toolkit有输出的方法 ...

暂时没有办法查看，可以暂且认为和原模型是一样的

wzc 发表于 2019-8-20 19:12
你好，我看了一下，是混合量化用delete模式，把dtype改为none就是代表不量化，那么它就是p32的吗？还是说 ...

我具体问了下NPU部门，他们说内部有办法可以，暂时还没开放接口。不过我已经要求他们开放API接口了，请关注后续版本更新。

jefferyzhang 发表于 2019-8-21 09:15
我具体问了下NPU部门，他们说内部有办法可以，暂时还没开放接口。不过我已经要求他们开放API接口了，请关 ...

开放接口指的是，可以让模型转化成fp32，还是说可以输出量化后的网络参数呀？

wzc 发表于 2019-8-21 10:07
开放接口指的是，可以让模型转化成fp32，还是说可以输出量化后的网络参数呀？ ...

说的是 FP32

网络参数不确定他们会不会提供，提供也不确定你们如何直观的去看他。
你们可以暂且认为参数是和原模型一样的，为什么要去怀疑参数呢。

jefferyzhang 发表于 2019-8-21 10:22
说的是 FP32

网络参数不确定他们会不会提供，提供也不确定你们如何直观的去看他。

感谢解答，我在做量化的事情，所以想看看toolkit量化的中间参数，和这个帖子的主题无关，让您误会了，抱歉。