达观数据申请基于动态温度因子改进的长上下文大模型的文本处理专利，增强大模型对长文本和复杂依赖关系的处理能力

金融界2025年4月30日消息，国家知识产权局信息显示，达观数据有限公司申请一项名为“基于动态温度因子改进的长上下文大模型的文本处理方法、装置、设备、存储及程序”的专利，公开号CN119886215A，申请日期为2024年12月。

专利摘要显示，本发明实施例公开了一种基于动态温度因子改进的长上下文大模型的文本处理方法、装置、设备、存储及程序，其中，方法包括：获取目标数据集；其中，所述目标数据集包括扩展长度文本数据；将所述目标数据集输入至目标大模型中，以通过所述目标大模型对所述目标数据集进行文本处理，得到模型处理结果；其中，所述目标大模型采用动态温度因子对所述目标大模型的各注意力头进行动态调整。本发明实施例的技术方案能够自适应地调整大模型中各注意力头的注意力权重，增强大模型对长文本和复杂依赖关系的处理能力，从而提升大模型的泛化能力。

天眼查资料显示，达观数据有限公司，成立于2015年，位于上海市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本5000万人民币。通过天眼查大数据分析，达观数据有限公司共对外投资了6家企业，参与招投标项目385次，财产线索方面有商标信息11条，专利信息229条，此外企业还拥有行政许可2个。

本文源自：金融界

作者：情报员