信工博特申请引入注意力机制的文本样本均衡化处理专利,有效提高模型的整体性能
金融界2025年4月26日消息,国家知识产权局信息显示,北京信工博特智能科技有限公司申请一项名为“一种引入注意力机制的文本样本均衡化处理方法及系统”的专利,公开号CN119862881A,申请日期为2024年12月。
专利摘要显示,本申请公开了一种引入注意力机制的文本样本均衡化处理方法及系统,涉及数据均衡化处理领域,其方法包括:接收文本样本集,对文本样本集进行特征提取,得到向量矩阵;将文本样本集输入Transformer网络结构,得到注意力输出值,Transformer网络结构包括多头注意力机制;根据注意力输出值与向量矩阵,对每个文本样本进行重要性评估,得到重要性评分;对重要性评分小于预设阈值的文本样本进行文本增强,并更新文本样本集;在更新后的文本样本集中添加对抗样本,得到新文本样本集;采用自适应采样策略调整每个样本类别的样本数量,得到用于表示文本样本集的最终文本样本集。本申请可以均衡化文本样本,有效提高模型的整体性能。
天眼查资料显示,北京信工博特智能科技有限公司,成立于2017年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本3000万人民币。通过天眼查大数据分析,北京信工博特智能科技有限公司共对外投资了7家企业,参与招投标项目41次,财产线索方面有商标信息44条,专利信息15条,此外企业还拥有行政许可5个。
本文源自:金融界
作者:情报员