国家知识产权局信息显示,元启芯(山东)半导体技术有限公司申请一项名为“模型推理加速方法、装置、电子设备和存储介质”的专利,公开号CN 120996176 A,申请日期为2025年6月。
专利摘要显示,本发明提供一种模型推理加速方法、装置、电子设备和存储介质,涉及计算机技术领域,包括:获取目标模型的权重数据;所述权重数据的数据格式为第一浮点数格式;将所述权重数据从所述第一浮点数格式转换为第二浮点数格式,得到量化后的权重数据;所述第二浮点数格式的精度低于所述第一浮点数格式;加载量化后的权重数据,并将量化后的权重数据从所述第二浮点数格式转换为所述第一浮点数格式,得到反量化后的权重数据;基于反量化后的权重数据,执行所述目标模型的推理任务。本发明提供的方法和装置,可以显著提高模型的推理效率,同时确保模型性能不受影响。
天眼查资料显示,元启芯(山东)半导体技术有限公司,成立于2022年,位于威海市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本25000万人民币。通过天眼查大数据分析,元启芯(山东)半导体技术有限公司专利信息136条,此外企业还拥有行政许可7个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯