Toybrick
标题:
单层卷积计算转换rknn模型
[打印本页]
作者:
gwjjj35
时间:
2019-9-5 15:11
标题:
单层卷积计算转换rknn模型
你好
我现在需要将一个只有一层卷积计算的pb模型转换成rknn模型,其中卷积核大小为5*5,深度为1,参数全为1。在转换完rknn模型后,我用一个680*480*1的一矩阵作为输入,计算后结果很奇怪,参数并不是25,请问是在转换模型时出了什么问题吗?
谢谢!
作者:
jefferyzhang
时间:
2019-9-5 18:17
rknn-toolkit 升级到1.2.0后再试,1.1在单层卷积上有一个bug。
今天刚帮客户解决了一个单层卷积输出的问题。
然后输入记得要强制指定类型和rknn的input一致,不然你输入float64的array,到rknn按float32解析就全错了
作者:
gwjjj35
时间:
2019-9-6 08:42
好的 非常感谢!
欢迎光临 Toybrick (https://t.rock-chips.com/)
Powered by Discuz! X3.3