Toybrick

不量化build模型时,报N4rknn14RKNNTilingPassE错误

江湖艺人

注册会员

积分
108
发表于 2023-4-22 14:45:04    查看: 2424|回复: 8 | [复制链接]    打印 | 显示全部楼层
本帖最后由 江湖艺人 于 2023-4-22 14:47 编辑

量化后不报错,但是量化后模型推理效果极差,做得是频谱转语音,推理结果几乎是杂音。onnx模型没有问题,不论是fp32,fp16,int8推理效果都还可以。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

jefferyzhang

版主

积分
13093
发表于 2023-4-22 17:05:47 | 显示全部楼层
log上看rknn运行都报错了...
回复

使用道具 举报

江湖艺人

注册会员

积分
108
 楼主| 发表于 2023-4-22 18:47:48 | 显示全部楼层
jefferyzhang 发表于 2023-4-22 17:05
log上看rknn运行都报错了...

这个就是不量化build模型时报的错啊,为什么会报这个错啊,log看不明白,输入过大?意思是这个模型就没办法得到非量化fp16的rknn模型吗
回复

使用道具 举报

jefferyzhang

版主

积分
13093
发表于 2023-4-23 08:56:27 | 显示全部楼层
仿真上先试试推理对不对,如果仿真上是对的,板子上不对,那就是板子驱动和api版本不一致
回复

使用道具 举报

江湖艺人

注册会员

积分
108
 楼主| 发表于 2023-4-23 13:23:14 | 显示全部楼层
jefferyzhang 发表于 2023-4-23 08:56
仿真上先试试推理对不对,如果仿真上是对的,板子上不对,那就是板子驱动和api版本不一致
...

都是1.4.0啊,仿真是对的,板子上不对

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

江湖艺人

注册会员

积分
108
 楼主| 发表于 2023-4-23 13:25:20 | 显示全部楼层
jefferyzhang 发表于 2023-4-23 08:56
仿真上先试试推理对不对,如果仿真上是对的,板子上不对,那就是板子驱动和api版本不一致
...

一个是板子上推理结果不一致的问题,还有一个就是上面那个报错是因为什么啊?我设置成3568之后不管量化不量化都会报这个错。3588的话不量化会报这个错,量化了以后就不会了。
回复

使用道具 举报

jefferyzhang

版主

积分
13093
发表于 2023-4-23 14:24:06 | 显示全部楼层
这种问题你需要把bug直接提到redmine给npu部门,或者直接通过github的issues反馈。
仿真是对的问题就不大。
回复

使用道具 举报

江湖艺人

注册会员

积分
108
 楼主| 发表于 2023-4-23 21:32:13 | 显示全部楼层
jefferyzhang 发表于 2023-4-23 14:24
这种问题你需要把bug直接提到redmine给npu部门,或者直接通过github的issues反馈。
仿真是对的问题就不大。 ...

想问一下怎么能联系到npu部门呢?
回复

使用道具 举报

jefferyzhang

版主

积分
13093
发表于 2023-4-23 21:57:55 | 显示全部楼层
江湖艺人 发表于 2023-4-23 21:32
想问一下怎么能联系到npu部门呢?

置顶帖有rknn qq群
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表