江南大学;江苏磐智数云科技有限公司周浩杰获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉江南大学;江苏磐智数云科技有限公司申请的专利一种面向卷积神经网络的通用性能增强蒸馏方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121413707B 。
龙图腾网通过国家知识产权局官网在2026-05-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202512003968.0,技术领域涉及:G06N3/096;该发明授权一种面向卷积神经网络的通用性能增强蒸馏方法是由周浩杰;洪婉婷;王宁;张超;范玲红;裴峰;郭伟设计研发完成,并于2025-12-29向国家知识产权局提交的专利申请。
本一种面向卷积神经网络的通用性能增强蒸馏方法在说明书摘要公布了:本发明公开了一种面向卷积神经网络的通用性能增强蒸馏方法,涉及人工智能技术领域。该方法先获取师生模型输出的特征图,经通道投影与激活生成重要性图,计算一致性与覆盖率两类互补空间增益;通过可学习像素级门控共识模块建模师生特征关联,自适应输出混合系数;经凸组合生成动态空间共识权重掩码,结合该掩码构建特征蒸馏损失项,并引入门控正则化项构建总损失函数,迭代优化学生模型。本发明解决了现有方法加权规则僵化、训练阶段适配不足及梯度分配不精准的问题,实现蒸馏策略与训练阶段自适应匹配,在不增加推理开销的前提下,显著提升轻量级学生模型在密集目标检测任务中的精度与泛化能力,适用于边缘设备等资源受限平台。
本发明授权一种面向卷积神经网络的通用性能增强蒸馏方法在权利要求书中公布了:1.一种面向卷积神经网络的通用性能增强蒸馏方法,其特征在于,包括以下步骤: S1:获取待处理的图像数据,将所述图像数据分别输入到预训练的教师模型和待训练的学生模型,通过所述教师模型和所述学生模型分别输出教师特征图、学生特征图; S2:对所述教师特征图和所述学生特征图分别进行通道维度的投影及激活处理,生成教师重要性图和学生重要性图; S3:基于所述教师重要性图和所述学生重要性图,计算同一空间位置的一致性增益和覆盖率增益,所述一致性增益用于聚焦师生模型均判定为置信度大于阈值的共识区域;所述覆盖率增益用于捕捉教师模型判定为置信度大于阈值但学生模型未充分学习的优势区域; S4:对于所述教师重要性图和所述学生重要性图的同一空间位置,计算与空间位置相关的混合系数; S5:基于所述混合系数、所述一致性增益和所述覆盖率增益,通过凸组合计算得到空间位置的空间共识权重,生成能够平衡师生模型共识区域强化需求与教师模型优势区域补充需求的空间权重掩码; S6:利用所述空间权重掩码构建特征蒸馏损失项,结合门控正则化项得到优化后的总损失函数,通过所述优化后的总损失函数对所述学生模型进行迭代训练优化,得到性能增强后的学生模型;在推理阶段,通过所述性能增强后的学生模型对输入的图像数据进行密集目标检测; 其中,在步骤S4中,对于所述教师重要性图和所述学生重要性图的同一空间位置,计算与空间位置相关的混合系数的方法如下: 对于所述教师重要性图和所述学生重要性图的同一空间位置,构建四元组形式的特征描述符,其表达式为: ; 其中,表示所述教师重要性图在空间位置处的数值,表示所述学生重要性图在空间位置处的数值,表示空间位置处的一致性增益; 将所述特征描述符输入可学习的像素级门控共识模块,所述像素级门控共识模块通过共享参数的轻量级卷积映射网络对所述特征描述符进行处理,输出与空间位置相关的混合系数,如下: 。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人江南大学;江苏磐智数云科技有限公司,其通讯地址为:214122 江苏省无锡市滨湖区蠡湖大道1800号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励