不量化build模型时，报N4rknn14RKNNTilingPassE错误

[复制链接] · 发表于 2023-4-22 14:45:04

本帖最后由江湖艺人于 2023-4-22 14:47 编辑

量化后不报错，但是量化后模型推理效果极差，做得是频谱转语音，推理结果几乎是杂音。onnx模型没有问题，不论是fp32，fp16，int8推理效果都还可以。

只看该作者 · 发表于 2023-4-22 17:05:47

log上看rknn运行都报错了...

只看该作者 · 发表于 2023-4-22 18:47:48

jefferyzhang 发表于 2023-4-22 17:05
log上看rknn运行都报错了...

这个就是不量化build模型时报的错啊，为什么会报这个错啊，log看不明白，输入过大？意思是这个模型就没办法得到非量化fp16的rknn模型吗

只看该作者 · 发表于 2023-4-23 08:56:27

仿真上先试试推理对不对，如果仿真上是对的，板子上不对，那就是板子驱动和api版本不一致

只看该作者 · 发表于 2023-4-23 13:23:14

jefferyzhang 发表于 2023-4-23 08:56
仿真上先试试推理对不对，如果仿真上是对的，板子上不对，那就是板子驱动和api版本不一致
...

都是1.4.0啊，仿真是对的，板子上不对

只看该作者 · 发表于 2023-4-23 13:25:20

jefferyzhang 发表于 2023-4-23 08:56
仿真上先试试推理对不对，如果仿真上是对的，板子上不对，那就是板子驱动和api版本不一致
...

一个是板子上推理结果不一致的问题，还有一个就是上面那个报错是因为什么啊？我设置成3568之后不管量化不量化都会报这个错。3588的话不量化会报这个错，量化了以后就不会了。

只看该作者 · 发表于 2023-4-23 14:24:06

这种问题你需要把bug直接提到redmine给npu部门，或者直接通过github的issues反馈。
仿真是对的问题就不大。

只看该作者 · 发表于 2023-4-23 21:32:13

jefferyzhang 发表于 2023-4-23 14:24
这种问题你需要把bug直接提到redmine给npu部门，或者直接通过github的issues反馈。
仿真是对的问题就不大。 ...

想问一下怎么能联系到npu部门呢？

只看该作者 · 发表于 2023-4-23 21:57:55

江湖艺人发表于 2023-4-23 21:32
想问一下怎么能联系到npu部门呢？

置顶帖有rknn qq群