买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海光羽芯辰科技有限公司申请的专利基于扩散模型的大语言模型推理方法、装置、终端及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120806155B 。

龙图腾网通过国家知识产权局官网在2026-05-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510937256.3，技术领域涉及：G06N5/04；该发明授权基于扩散模型的大语言模型推理方法、装置、终端及介质是由请求不公布姓名;请求不公布姓名设计研发完成，并于2025-07-08向国家知识产权局提交的专利申请。

本基于扩散模型的大语言模型推理方法、装置、终端及介质在说明书摘要公布了：本申请提供一种基于扩散模型的大语言模型推理方法、装置、终端及介质。本申请利用基于扩散模型框架的草稿模型生成草稿序列，再通过大语言模型对草稿序列进行验证。本申请利用了扩散模型天然支持并行处理的特点，使得草稿序列的长度显著增加，进而减少了大模型验证的次数，从而提高了大语言模型的推理效率，并提高了计算资源的利用效率。

本发明授权基于扩散模型的大语言模型推理方法、装置、终端及介质在权利要求书中公布了：1.一种基于扩散模型的大语言模型推理方法，其特征在于，包括： 获得预先训练的基于扩散模型架构的草稿模型并确定待使用的大语言模型；其中，训练草稿模型的方式具体包括：利用所述大语言模型构建草稿模型的训练集；利用所述训练集对扩散模型框架进行训练，以获得训练好的草稿模型； 根据预先获得的草稿模型配置参数，对所述草稿模型进行配置； 获取待推理的上下文信息并将其转换为待推理的上下文序列；将待推理的上下文序列作为当前的上下文序列；对当前的上下文序列进行解码操作，获得中间输出序列；根据预设的终止条件，基于所述中间输出序列，执行终止判断操作，获得对应的判断结果；若获得的判断结果为满足终止条件，则将所述中间输出序列作为最终的输出序列；若获得的判断结果为不满足终止条件，则将所述中间输出序列作为当前的上下文序列并对其进行解码操作，直至获得满足终止条件的判断结果； 其中，所述解码操作包括：依次执行的基于参数配置后的草稿模型的草稿序列生成操作、基于大语言模型的验证操作、确定接收前缀操作以及条件判断与修正操作； 并且其中，所述基于参数配置后的草稿模型的长序列草稿生成操作包括：利用参数配置后的草稿模型对当前的上下文序列进行逆扩散处理，生成多个token表示，并根据词汇表将所述多个token表示转换为草稿序列； 所述基于大语言模型的验证操作包括：将当前上下文序列和草稿序列输入至大语言模型中进行并行评估，得到最优的token序列； 所述确定接收前缀操作包括：将草稿序列中从第一个token开始与最优的token序列一致的token部分输出为前缀序列，并将前缀序列中的token数量输出为大语言模型接受的token数；将所述前缀序列与当前上下文序列进行拼接，得到初步的中间输出序列； 所述条件判断操作包括：若接受的token数小于草稿序列的长度，则执行修正操作，得到修正后的中间输出序列，并将该修正后的中间输出序列作为最终的中间输出序列；若接受的token数等于草稿序列的长度，则将初步的中间输出序列作为最终的中间输出序列； 对最终的输出序列进行文本转换，并将转换的结果作为待推理的上下文信息对应的推理结果文本信息。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海光羽芯辰科技有限公司，其通讯地址为：201400 上海市奉贤区川南奉公路9222号1幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。