华为申请用于通过量化压缩生成式预训练语言模型的方法和设备专利，实现神经网络模型的有效量化

金融界2025年5月1日消息，国家知识产权局信息显示，华为技术有限公司申请一项名为“用于通过量化压缩生成式预训练语言模型的方法和设备”的专利，公开号CN119895437A，申请日期为2023年6月。

专利摘要显示，提供了一种由处理系统执行的用于量化神经网络模型的方法。所述方法包括：基于与所述神经网络模型相关联的权重的分布来确定缩放因子；基于所述缩放因子和与所述分布相关联的所述权重来确定量化后的权重；基于在所述神经网络模型的训练期间的所述量化后的权重，确定所述神经网络模型的训练损失；基于所述训练损失的梯度，确定所述神经网络模型的更新后的缩放因子。

天眼查资料显示，华为技术有限公司，成立于1987年，位于深圳市，是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本4094113.182万人民币。通过天眼查大数据分析，华为技术有限公司共对外投资了51家企业，参与招投标项目5000次，财产线索方面有商标信息5000条，专利信息5000条，此外企业还拥有行政许可1535个。

本文源自：金融界

作者：情报员