Toybrick

楼主: jarvis

caffe 模型转换为rknn后 识别一直错

jefferyzhang

版主

积分
12844
发表于 2019-8-7 10:02:39 | 显示全部楼层
puyanan 发表于 2019-8-5 17:58
您好。在RK虚拟机里面,将pb模型转换成rknn模型,不量化(do_quantization=False)。那么模型转换前后的中 ...

一样的,但是要注意rknn转换默认用fp16,可以强制fp32和原模型一致。这里可能会造成一点点精度误差。
数量级不一样要检查你的代码和转换代码,是否归一化设置有问题。

rknn是可以自动归一化的,不要重复做了归一处理
回复

使用道具 举报

wzc

新手上路

积分
48
发表于 2019-8-15 10:44:54 | 显示全部楼层
jefferyzhang 发表于 2019-8-7 10:02
一样的,但是要注意rknn转换默认用fp16,可以强制fp32和原模型一致。这里可能会造成一点点精度误差。
数 ...

请问是不量化的话也是会转成fp16吗?然后怎么强制保持fp32不变呢?
回复

使用道具 举报

jefferyzhang

版主

积分
12844
发表于 2019-8-15 12:14:31 | 显示全部楼层
wzc 发表于 2019-8-15 10:44
请问是不量化的话也是会转成fp16吗?然后怎么强制保持fp32不变呢?

你可以看下混合量化那章。
回复

使用道具 举报

wzc

新手上路

积分
48
发表于 2019-8-20 19:12:38 | 显示全部楼层
jefferyzhang 发表于 2019-8-15 12:14
你可以看下混合量化那章。

你好,我看了一下,是混合量化用delete模式,把dtype改为none就是代表不量化,那么它就是p32的吗?还是说和正常没有开量化一样fp16的?文档写的不是很清楚
回复

使用道具 举报

wzc

新手上路

积分
48
发表于 2019-8-20 19:58:27 | 显示全部楼层
jefferyzhang 发表于 2019-8-15 12:14
你可以看下混合量化那章。

另外,还有一个问题,如果想看用用toolkit量化之后的网络具体参数(权重、偏置等),toolkit有输出的方法吗?我看使用指南里只有混合量化能输出最大最小值。
回复

使用道具 举报

jefferyzhang

版主

积分
12844
发表于 2019-8-21 09:11:33 | 显示全部楼层
wzc 发表于 2019-8-20 19:58
另外,还有一个问题,如果想看用用toolkit量化之后的网络具体参数(权重、偏置等),toolkit有输出的方法 ...

暂时没有办法查看,可以暂且认为和原模型是一样的
回复

使用道具 举报

jefferyzhang

版主

积分
12844
发表于 2019-8-21 09:15:52 | 显示全部楼层
wzc 发表于 2019-8-20 19:12
你好,我看了一下,是混合量化用delete模式,把dtype改为none就是代表不量化,那么它就是p32的吗?还是说 ...

我具体问了下NPU部门,他们说内部有办法可以,暂时还没开放接口。不过我已经要求他们开放API接口了,请关注后续版本更新。
回复

使用道具 举报

wzc

新手上路

积分
48
发表于 2019-8-21 10:07:02 | 显示全部楼层
jefferyzhang 发表于 2019-8-21 09:15
我具体问了下NPU部门,他们说内部有办法可以,暂时还没开放接口。不过我已经要求他们开放API接口了,请关 ...

开放接口指的是,可以让模型转化成fp32,还是说可以输出量化后的网络参数呀?
回复

使用道具 举报

jefferyzhang

版主

积分
12844
发表于 2019-8-21 10:22:12 | 显示全部楼层
wzc 发表于 2019-8-21 10:07
开放接口指的是,可以让模型转化成fp32,还是说可以输出量化后的网络参数呀? ...

说的是 FP32

网络参数不确定他们会不会提供,提供也不确定你们如何直观的去看他。
你们可以暂且认为参数是和原模型一样的,为什么要去怀疑参数呢。
回复

使用道具 举报

wzc

新手上路

积分
48
发表于 2019-8-23 08:55:55 | 显示全部楼层
jefferyzhang 发表于 2019-8-21 10:22
说的是 FP32

网络参数不确定他们会不会提供,提供也不确定你们如何直观的去看他。

感谢解答,我在做量化的事情,所以想看看toolkit量化的中间参数,和这个帖子的主题无关,让您误会了,抱歉。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表