Toybrick

标题: 自定义算子是否支持C API，以及量化问题 [打印本页]

作者: xsky 时间: 2020-6-3 20:27
标题: 自定义算子是否支持C API，以及量化问题
本帖最后由 xsky 于 2020-6-4 10:04 编辑

请问
1、自定义算子实现后，是否可直接支持在目标板上直接C API调用？文档没说明，如果支持，应如何操作，或者是模型成功转换后直接就可以调用C API运行？
2、自定义算子写的不支持量化，但是比如slice操作，并不需要实际计算，如果模型用RKNN量化，是否会发生自定义算子输入的上一层是可以量化的算子，NPU将其计算后会转为fp16？自定义算子进行slice操作后，框架还会将其转为INT8，再进行下一步的操作？这样就相当于引于了两次无用的数据类型转换？实际情况是这样吗？如果是，目前是不是只能这样不能获取INT8 tensor？
谢谢！

欢迎光临 Toybrick (https://t.rock-chips.com/)