Toybrick

混合量化经验总结

qiu47

注册会员

积分
124
楼主
发表于 2021-7-22 18:23:01 | 显示全部楼层
楼主你好,我在做混合量化时将网络前面一些层量化类型设置为float32作为非量化层,运行检测时会报错:ASSERT in NeuralNet.cpp.decompressKernel(1763): zrlBitWidth <= m_KernelZRLMaxBitWidth
如果只设置网络后面输出层为非量化层就没问题。这个该咋设置呢?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表