买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉深圳联友科技有限公司申请的专利一种支持指代消解和一语多义的多任务学习对话方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN117149958B 。

龙图腾网通过国家知识产权局官网在2026-05-12发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210556382.0，技术领域涉及：G06F16/3329；该发明授权一种支持指代消解和一语多义的多任务学习对话方法是由范宜佳设计研发完成，并于2022-05-19向国家知识产权局提交的专利申请。

本一种支持指代消解和一语多义的多任务学习对话方法在说明书摘要公布了：本发明涉及智能对话领域，涉及一种支持指代消解和一语多义的多任务学习对话方法，通过训练语料训练指代消解模型、一语多义模型、多任务学习模型，将历史对话和当前对话拼接成上下文表示文本，通过指代消解模型标注出文本中的指代词、零代词、被指代词，并计算指代词和被指代词的指代概率或零代词和被指代词的指代概率，并根据设定的阈值判断指代是否可以消解，若可以指代消解，则指代词或零代词替换或补充为对应的被指代词，以形成替换文本，通过一语多义模型提取出替换文本中的意图关键成分，通过多任务学习模型得到每个意图关键成分的领域、意图、槽位，送入对话管理模块，得到该时刻的对话动作，这样能精准理解意图。

本发明授权一种支持指代消解和一语多义的多任务学习对话方法在权利要求书中公布了：1.一种支持指代消解和一语多义的多任务学习对话方法，其特征在于，所述方法通过指代消解模型、一语多义模型、多任务学习模型实现，所述方法包括以下步骤， S1：通过预先准备好的训练语料，训练所述指代消解模型、一语多义模型、多任务学习模型； S2：将历史对话和当前对话拼接，得到上下文表示文本，通过所述指代消解模型进行序列标注，标注出文本中的指代词、零代词、被指代词； S3：通过指代消解模型计算指代词和被指代词的指代概率或零代词和被指代词的指代概率，保留得分最高的指代词和被指代词对或零代词和被指代词对，并根据设定的阈值判断指代是否可以消解，若可以指代消解，则指代词或零代词替换或补充为对应的被指代词，以形成替换文本； S4：通过一语多义模型提取出所述替换文本中的k个意图关键成分； S5：将提取出来的k个意图关键成分通过所述多任务学习模型得到每个意图关键成分的领域、意图、槽位； S6：将所述领域、意图、槽位，送入对话管理模块，得到该时刻的对话动作； 所述S1包括以下步骤： S1.1：训练所述指代消解模型，所述指代消解模型包括CRF层和线性分类层，所述CRF层用于识别指代词、零代词和被指代词，所述线性分类层用于进行指代概率计算以及领域和意图分类，针对零指代和共指两种情况，设计两种序列标注方式，对训练语料的指代词、零代词和被指代词进行标注，通过标注好的训练语料训练BERT+CRF模型并优化损失函数，再通过指代词向量和被指代词的向量计算指代概率； S1.2：训练所述一语多义模型，对训练语料的意图关键成分进行标注：对训练语料进行预处理，通过预处理过后的训练语料训练BERT+CRF模型，再通过Adam优化方法优化其损失函数，以得到训练好的一语多义模型； S1.3：训练所述多任务学习模型，统计训练语料的意图、槽位的数据样本量，确定数据样本的比例，并转换成整数，确定每次迭代的次数，确保每轮每类样本比例一致，并创建迭代器，将样本数据用于训练多任务学习模型，直至迭代器中数据为空，并通过线性分类层预测领域和意图，CRF层预测槽位，优化总损失函数，得到训练好的多任务学习模型； 所述S1.1包括以下步骤： S1.1.1：针对零指代和共指两种情况，设计两种序列标注方式：所述被指代词，以span1作为标识符，BMES为词的位置符；所述零代词，加入零代词的上下文字符，以span_start和span_end作为标识符；所述指代词用span2作为标识符，BMES为词的位置符，同时加入其上下文字符，对训练语料的指代词、零代词和被指代词进行预处理； S1.1.2：训练BERT+CRF模型，采用预处理过的训练语料对BERT+CRF模型进行训练，BERT+CRF模型将预处理过的训练语料转化成向量并对其进行分类处理，通过Adam优化方法优化损失函数,以得出训练好的指代消解模型； S1.1.3：根据识别出的指代词向量或零代词向量和被指代词的向量计算指代概率，具体计算方式如下： ， ， ， 其中，为指代词向量或零代词向量和被指代词向量的拼接和，为两个词之间的指代概率，w和b为线性分类层的网络参数，通过优化损失函数得到， ， 其中，表示指代词i和被指代词j之间的损失函数，softmax是计算类别属于各个概率的一个分类计算函数，BCE表示交叉熵，用于度量两个概率分布间的差异性信息，是被指代词的标签，如果被指代词j是指代词i的真实指代词，那么它将表示为一个全为1的向量，反之表示为一个全为0的向量； 所述S1.2包括以下步骤： S1.2.1：通过BMES标注方法对训练语料的k个意图关键成分进行标注； S1.2.2：采用BERT预训练模型将标注好的k个意图关键成分转化成向量，再通过CRF模型进行序列标注，以此训练BERT+CRF模型； S1.2.3：通过Adam优化方法优化损失函数，得到训练好的一语多义模型。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人深圳联友科技有限公司，其通讯地址为：518031 广东省深圳市福田区深南中路2010号东风大厦22楼2211、2212、2213房；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。