Toybrick

标题: 不量化build模型时，报N4rknn14RKNNTilingPassE错误 [打印本页]

作者: 江湖艺人 时间: 2023-4-22 14:45
标题: 不量化build模型时，报N4rknn14RKNNTilingPassE错误
本帖最后由江湖艺人于 2023-4-22 14:47 编辑

量化后不报错，但是量化后模型推理效果极差，做得是频谱转语音，推理结果几乎是杂音。onnx模型没有问题，不论是fp32，fp16，int8推理效果都还可以。

作者: jefferyzhang 时间: 2023-4-22 17:05
log上看rknn运行都报错了...

作者: 江湖艺人 时间: 2023-4-22 18:47

jefferyzhang 发表于 2023-4-22 17:05
log上看rknn运行都报错了...

这个就是不量化build模型时报的错啊，为什么会报这个错啊，log看不明白，输入过大？意思是这个模型就没办法得到非量化fp16的rknn模型吗

作者: jefferyzhang 时间: 2023-4-23 08:56
仿真上先试试推理对不对，如果仿真上是对的，板子上不对，那就是板子驱动和api版本不一致

作者: 江湖艺人 时间: 2023-4-23 13:23

jefferyzhang 发表于 2023-4-23 08:56
仿真上先试试推理对不对，如果仿真上是对的，板子上不对，那就是板子驱动和api版本不一致
...

都是1.4.0啊，仿真是对的，板子上不对

作者: 江湖艺人 时间: 2023-4-23 13:25

jefferyzhang 发表于 2023-4-23 08:56
仿真上先试试推理对不对，如果仿真上是对的，板子上不对，那就是板子驱动和api版本不一致
...

一个是板子上推理结果不一致的问题，还有一个就是上面那个报错是因为什么啊？我设置成3568之后不管量化不量化都会报这个错。3588的话不量化会报这个错，量化了以后就不会了。

作者: jefferyzhang 时间: 2023-4-23 14:24
这种问题你需要把bug直接提到redmine给npu部门，或者直接通过github的issues反馈。
仿真是对的问题就不大。

作者: 江湖艺人 时间: 2023-4-23 21:32

jefferyzhang 发表于 2023-4-23 14:24
这种问题你需要把bug直接提到redmine给npu部门，或者直接通过github的issues反馈。
仿真是对的问题就不大。 ...

想问一下怎么能联系到npu部门呢？

作者: jefferyzhang 时间: 2023-4-23 21:57

江湖艺人发表于 2023-4-23 21:32
想问一下怎么能联系到npu部门呢？

置顶帖有rknn qq群

欢迎光临 Toybrick (https://t.rock-chips.com/)