学校对面
注册会员
使用道具 举报
jefferyzhang
版主
jefferyzhang 发表于 2024-4-11 09:31 如果是rknn2建议转onnx再转rknn。 如果是rknn1建议用pt直接转rknn。 推理不正确可以尝试:
学校对面 发表于 2024-4-11 13:52 感谢回复!针对您的回复 1:我是用的1.7.5 2:两种方式转换后会有区别,区别在于pixelshuffle这个算子, ...
jefferyzhang 发表于 2024-4-11 16:40 如果关闭量化结果完全相同说明模型转换两种是一致的,区别在于量化方式上。 转换成不同的算子他的数值范 ...
学校对面 发表于 2024-4-11 17:49 谢谢,我算子的变化只有depth2shuffle,trace之后被拆分为了reshape->permute->reshape这三步,按理说这 ...
jefferyzhang 发表于 2024-4-12 08:55 可以试着混合量化把这个算子不量化
学校对面 发表于 2024-4-15 10:48 您好,按文档执行混合量化时,目前是先根据step1中的建议对其中某一个卷积进行了i16的混合量化,并且在st ...
jefferyzhang 发表于 2024-4-15 16:43 set input failed 一般是输入和模型对不上,传入的buffer是你转换时候设置的格式,这里你的模型要3240000 ...
本版积分规则 回帖后跳转到最后一页
产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick
瑞芯微电子股份有限公司所有 闽ICP备19006074号-1 闽公网安备 35010202001061号