紫光恒越技术有限公司;北京紫光智算信息技术有限公司汪洋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉紫光恒越技术有限公司;北京紫光智算信息技术有限公司申请的专利基于异构硬件的人工智能加速方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121328639B 。
龙图腾网通过国家知识产权局官网在2026-05-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511903870.4,技术领域涉及:G06N3/063;该发明授权基于异构硬件的人工智能加速方法及系统是由汪洋;樊建勋;赵紫峰设计研发完成,并于2025-12-17向国家知识产权局提交的专利申请。
本基于异构硬件的人工智能加速方法及系统在说明书摘要公布了:本申请提供一种基于异构硬件的人工智能加速方法及系统,涉及计算机领域的技术领域,本申请通过采集异构硬件执行人工智能推理任务时的缓存未命中率、指令吞吐量及芯片功耗波形,经挖掘处理得到性能抖动值并关联人工智能推理任务对应的计算环节生成缓存敏感度,提取波形特征得到访问指数,以两者为输入通过强化学习得到映射策略,监控任务执行状态触发预定条件后,动态计算优先级调整量并执行抢占式调度,能够实现人工智能推理任务加速,提升高并发场景下响应效率与能效比。
本发明授权基于异构硬件的人工智能加速方法及系统在权利要求书中公布了:1.一种基于异构硬件的人工智能加速方法,其特征在于,包括: 采集各异构硬件在执行人工智能推理任务时产生的缓存未命中率与指令吞吐量、以及由缓存未命中事件引发的芯片功耗波形; 对所述缓存未命中率与所述指令吞吐量进行挖掘处理,得到性能抖动值,将所述性能抖动值与人工智能推理任务对应的计算环节进行关联,得到缓存敏感度,对所述芯片功耗波形进行特征提取处理,得到访问指数,其中,所述性能抖动值是指反映数据局部性差异导致的硬件执行效率波动的特征规律,所述缓存敏感度是指综合各计算环节的抖动强度和位置分布、用于表征计算环节对缓存依赖程度的向量数据,所述访问指数是指融合脉冲波形特征集与脉冲密度指标、用于反映内存访问频繁程度和强度的综合指标; 将所述缓存敏感度与所述访问指数作为状态输入,采用强化学习策略进行资源映射,得到人工智能推理任务与异构硬件之间的映射策略; 基于所述映射策略,监控各异构硬件上的任务执行状态,当任一所述异构硬件上的任务执行状态满足与所述性能抖动值或所述访问指数对应的预定条件时,根据人工智能推理任务的实时执行进度与剩余截止时间,采用动态优先级调度机制,动态计算对应人工智能推理任务的优先级调整量; 依据所述优先级调整量,执行抢占式的任务重新调度,以实现人工智能推理任务的加速。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人紫光恒越技术有限公司;北京紫光智算信息技术有限公司,其通讯地址为:100080 北京市海淀区中关村东路1号院2号楼402室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励