凌云光申请基于自监督学习的知识蒸馏方法专利，有效增强学生模型性能

金融界 2025 年 5 月 2 日消息，国家知识产权局信息显示，凌云光技术股份有限公司申请一项名为“基于自监督学习的知识蒸馏方法、装置及存储介质”的专利，公开号 CN119904713A，申请日期为 2024 年 12 月。

专利摘要显示，本发明公开了一种基于自监督学习的知识蒸馏方法、装置、电子设备及存储介质，属于机器视觉技术领域，该方法包括：将当前的样本图像分别输入教师模型和学生模型中，以得到第一图像特征和第二图像特征；根据第一图像特征更新当前维护的实例特征队列，实例特征队列中的实例特征由教师模型进行特征提取得到，并具有固定队列长度；分别确定第一图像特征和第二图像特征相对于更新后的实例特征队列的第一相似度分布和第二相似度分布；根据第一相似度分布和第二相似度分布，进行教师模型到学生模型的预训练蒸馏，从而能解决现有蒸馏方法因不同架构模型直接对齐特征导致模型性能下降的问题，有效增强了学生模型的模型性能，提高了模型适应性和泛化能力。

天眼查资料显示，凌云光技术股份有限公司，成立于2002年，位于北京市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本46097.6733万人民币。通过天眼查大数据分析，凌云光技术股份有限公司共对外投资了27家企业，参与招投标项目968次，财产线索方面有商标信息178条，专利信息1065条，此外企业还拥有行政许可4个。

本文源自：金融界

作者：情报员