reid的ckpt.t7模型转rknn，rknn结果不正确问题，结果为负数-65536.

显示全部楼层 · 发表于 2021-10-27 08:35:14

关了量化和预编译后结果正确么？

显示全部楼层 · 发表于 2021-10-27 10:44:50

Redly 发表于 2021-10-27 09:08
结果没有变化，也不正确。

rknn api和drv版本分别是多少

显示全部楼层 · 发表于 2021-10-27 12:02:12

仿真环境建议你用rknn-toolkit 1.7试下结果有没有区别

显示全部楼层 · 发表于 2021-10-27 16:01:10

Redly 发表于 2021-10-27 15:57
rknn-toolkit1.7.0 输出结果为0.，1. ...排列，也不是有效特征值。

0 1 是被量化的吧，不量化的结果呢？

你如果是FAE客户，可以直接向redmine提交问题单。
或者加入rknn qq群向他们直接提问。

如果想定位，可以dump出每一层看下从哪一层开始出问题的，请参看rknntoolkit提供的文档