2024101861571一种基于RAG的多轮对话处理方法,装置以及设备.pdf

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN117743559A
(43)申请公布日2024.03.22
(21)申请号202410186157.1
(22)申请日2024.02.20

(71)申请人厦门国际银行股份有限公司
地址361000福建省厦门市鹭江道8-10号
国际银行大厦1-6层
(72)发明人张学玲涂宇韬洪镇宇张志远
(74)专利代理机构厦门仕诚联合知识产权代理
事务所(普通合伙)35227
专利代理师陈蓓蓓
(51)Int.Cl.
G06F16/332(2019.01)
G06F16/33(2019.01)
G06N5/04(2023.01)
G06N5/022(2023.01)

权利要求书2页说明书10页附图3页
(54)发明名称
一种基于RAG的多轮对话处理方法、装置以
及设备
(57)摘要
本发明公开了一种基于RAG的多轮对话处理
方法、装置及设备，其包括：获取第一问题，检索
知识库中是否存在与所述第一问题相匹配的文
档数据；若是，将匹配到的第一匹配文档与所述
第一问题进行拼接，将拼接得到的第一拼接问题
输入至预设的RAG推理大模型生成第一回答，若
否，将所述第一问题输入至预设的问题转换大模
型生成第一回答；获取第二问题，通过所述问题
转换大模型分析所述第二问题是否与所述历史
对话集存在匹配关系；若是，对所述第二问题进
行预处理，得到第二处理问题，并采用所述RAG推
理大模型或者所述问题转换大模型基于所述第
二处理问题生成第二回答，若否，采用所述RAG推
理大模型或者所述问题转换大模型基于所述第
二问题生成第二回答。
CN117743559A
CN117743559A权利要求书1/2页

1.一种基于RAG的多轮对话处理方法，其特征在于，所述方法包括：
获取第一问题，根据所述第一问题检索知识库中是否存在与所述第一问题相匹配的文
档数据；
若是，将匹配到的第一匹配文档与所述第一问题进行拼接，将拼接得到的第一拼接问
题输入至预设的RAG推理大模型生成第一回答，若否，将所述第一问题输入至预设的问题转
换大模型生成第一回答；
将所述第一回答返回给用户，并将所述第一问题以及所述第一回答添加至历史对话集
中；
获取第二问题，通过所述问题转换大模型分析所述第二问题是否与所述历史对话集存
在匹配关系；
若是，对所述第二问题进行预处理，得到第二处理问题，并采用所述RAG推理大模型或
者所述问题转换大模型基于所述第二处理问题生成第二回答，若否，采用所述RAG推理大模
型或者所述问题转换大模型基于所述第二问题生成第二回答；
将所述第二回答返回给用户，并将所述第二问题以及所述第二回答添加至所述历史对
话集中。
2.根据权利要求1所述的一种基于RAG的多轮对话处理方法，其特征在于，所述根据所
述第一问题检索知识库中是否存在与所述第一问题相匹配的文档数据，包括：
基于预设的RAG模块根据词向量的相似度对所述第一问题在所述知识库中进行检索，
将匹配到的文档数据按照向量相似度降序排列，选取前N段的文档数据作为所述第一匹配
文档。
3.根据权利要求1所述的一种基于RAG的多轮对话处理方法，其特征在于，所述通过所
述问题转换大模型分析所述第二问题是否与所述历史对话集存在匹配关系，包括：
通过所述问题转换大模型利用预设prompt的提示对所述第二问题与所述历史对话集
进行分析，得到分析结果；
根据所述分析结果确定所述第二问题与所述历史对话集的所述匹配关系为问题主体
相关或者回答内容相关。
4.根据权利要求3所述的一种基于RAG的多轮对话处理方法，其特征在于，所述问题主
体相关为所述第二问题的主体与所述第一问题的主体存在指代关系；对所述第二问题进行
预处理，得到第二处理问题，包括：
将所述第一问题的主体替换至所述第二问题的主体，得到所述第二处理问题。
5.根据权利要求3所述的一种基于RAG的多轮对话处理方法，其特征在于，所述问题主
体相关为所述第二问题的主体缺失；对所述第二问题进行预处理，得到第二处理问题，包
括：
根据所述第一问题的主体对所述第二问题进行主体补全，得到所述第二处理问题。
6.根据权利要求3所述的一种基于RAG的多轮对话处理方法，其特征在于，所述回答内
容相关为所述第二问题与所述第一回答存在内容相关；对所述第二问题进行预处理，得到
第二处理问题，包括：
根据所述第一回答对所述第二问题进行问题转换，以将所述第一回答的关联内容替换
至所述第二问题中，得到所述第二处理问题。

2
CN117743559A权利要求书2/2页
7.根据权利要求1所述的一种基于RAG的多轮对话处理方法，其特征在于，所述采用所
述RAG推理大模型或者所述问题转换大模型基于所述第二处理问题生成第二回答，包括：
根据所述所述