安徽科讯金服科技有限公司沈超锋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉安徽科讯金服科技有限公司申请的专利面向非独立同分布场景的联邦学习蒸馏方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116187431B 。
龙图腾网通过国家知识产权局官网在2026-05-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310142030.5,技术领域涉及:G06N3/098;该发明授权面向非独立同分布场景的联邦学习蒸馏方法及装置是由沈超锋;吴贻军;祝言抒;梁前能设计研发完成,并于2023-02-13向国家知识产权局提交的专利申请。
本面向非独立同分布场景的联邦学习蒸馏方法及装置在说明书摘要公布了:本发明涉及人工智能技术领域,提供一种面向非独立同分布场景的联邦学习蒸馏方法及装置,该方法借助于目标终端的非标签数据与目标终端的初始标签数据的相似度、与其他终端的初始标签数据的第一特征相似度以及目标终端的初始标签数据与其他终端的初始标签数据的第二特征相似度,可以丰富初始教师模型以及基础模型的训练样本,不仅可以大大提高初始教师模型以及基础模型的训练效率,还可以使得到的目标教师模型以及学生模型的泛化能力更强,进而可以提升联邦学习得到的聚合模型的准确性。此外,该方法结合知识蒸馏以及联邦学习,可以使学生模型学习到自身完全不存在的其他终端的知识,即自身数据没有相关标签,但是能通过联邦学习学到相关知识。
本发明授权面向非独立同分布场景的联邦学习蒸馏方法及装置在权利要求书中公布了:1.一种面向非独立同分布场景的联邦学习蒸馏方法,其特征在于,应用于目标终端,所述目标终端归属的目标服务端下各终端的数据和或标签满足非独立同分布;所述方法包括: 确定所述目标终端的初始标签数据以及非标签数据,并基于所述非标签数据与所述目标终端的初始标签数据的相似度,对所述非标签数据进行标注,得到第一标签数据; 将所述目标终端与所述目标服务端下其他终端进行标签对齐,基于所述非标签数据与所述其他终端的初始标签数据的第一特征相似度,对所述非标签数据进行标注,得到第二标签数据,基于所述目标终端的初始标签数据与所述其他终端的初始标签数据的第二特征相似度,确定第三标签数据; 基于所述目标终端的初始标签数据、所述第一标签数据、所述第二标签数据、所述第三标签数据以及标签对齐结果,对初始教师模型进行训练,得到目标教师模型,并基于所述目标教师模型,对所述目标终端的初始标签数据进行标签预测,得到所述目标终端的初始标签数据的软标签; 基于所述目标终端的初始标签数据的软标签、所述目标终端的初始标签数据、所述第一标签数据、所述第二标签数据以及所述第三标签数据,对基础模型进行本地蒸馏,得到学生模型,并基于所述学生模型进行联邦学习; 其中,所述初始标签数据以及所述非标签数据由所述目标终端对本地数据进行聚类得到,所述本地数据包括图片或隐私数据,所述初始标签数据携带的标签包括所述图片中的对象类别或隐私数据类别。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人安徽科讯金服科技有限公司,其通讯地址为:230000 安徽省合肥市市辖区高新区习友路与石莲南路交口中国智能语音产业区A2栋5层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励