关于Pytorch中Conv2d转rknn的问题

问题已上报

回复如下：

ret = rknn.build(do_quantization=True)
这里做量化的时候需要指定一个dataset.txt文件,文件内容是量化文件路径，它可以是一个npy文件，只要跟模型输入的shape一致。
比如
rknn.build(do_quantization=True,dataset ="./dataset.txt")
dataset.txt填写
./input.npy

LudvigCL 发表于 2020-4-13 17:47
后续进行模型转换的时候又遇到了permute转换失效和core dumped两个错误。
模型定义：
import torch

你这种问题要自己先跟下，找到错误点NPU部门才会介入，他们不会帮你debug的。
首先你要在PC上做转换，不要在板子上搞。然后把其他问题都自己排除下。

init runtime要确保板子DRV API和rknn toolkit版本是匹配的。
测试仿真情况和在板子运行情况。

LudvigCL 发表于 2020-4-13 18:25
目前就是在PC上进行转换，而且已经确定了permute函数转换后失效。

你是在Init runtime environment时候出错，请发下你toolkit、api、drv三者的版本号分别是多少

LudvigCL 发表于 2020-4-13 16:29
请问量化时如果指定为npy文件，那其中的数组是必须按照NHWC格式进行保存吗？
也即是说如果我在jit.trace ...

回复如下：

必须按照NHWC的格式。
ps.如果使用npy文件量化并且初始化设置如下
rknn=RKNN(verbose=True)
就会有一个Warning警告
W xxx.npy need NHWC format!

LudvigCL 发表于 2020-4-14 09:52
Init runtime environment是在pc上进行仿真时候出错的，使用的toolkit是1.3.1b7版本

beta7在仿真时候是会出问题的，这个只是beta版本。可以试试用1.3.0版来加载这个模型，
不然你只能等正式版出来看看了。

luxiaofei 发表于 2020-4-17 14:50
BETA版本在哪里可以找到呢？

链接：https://pan.baidu.com/s/1DuLeBawfoBP62mu0ADNGAA 
提取码：qtys