Toybrick»开源社区 › 技术论坛 › 人工智能 › 有关模型调用的问题

有关模型调用的问题

积分: 12966

楼主

发表于 2023-1-29 16:53:13 | 显示全部楼层

第二种设置UINT8没有报什么错应该就可以，你可以测试下

回复

使用道具举报

积分: 12966

沙发

发表于 2023-2-1 11:58:56 | 显示全部楼层

Output_attr设定为FLOAT16输出就是反量化过的fp16，你原始模型输出什么格式?。
设定UINT8要把反量化参数用进去才是对的

回复

使用道具举报

返回列表

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick

瑞芯微电子股份有限公司所有闽ICP备19006074号-1 闽公网安备 35010202001061号

快速回复 返回顶部 返回列表