大模型_AI_RAG_流程图

Retrieval

关键词提取/关系抽取

类别判断

nl2sql召回

输入

prompt工程

向量库Milvus

SelfQueryRetrieverEmbeddingsFilter自查询+过滤

提取的关键词列表

query向量化

数据解析处理

ElasticSearch

RAG召回

基座大模型

jieba

检索

向量库（按语义做名词召回）

问题改写向量化

企业法人关系召回

对于memory的查询处理总共设计了两种方案：默认方案为：1. 原始流程走到多路召回，返回content；2. query + content + history 通过prompt工程喂入模型，模型返回答案；在用户不认可答案的情况下走第二种方案：1. 在原始流程走到问题改写之前；2. 基于原始query + history喂入模型，生成new_query；3. 基于生成的new_query接着问题改写继续往下走。对于memory上下文长度的控制第一版是基于langchain的ConversationTokenBufferMemory通过 Token 数控制上下文长度（截取的方式）；二版时准备优化为将 Memory 存储在向量数据库中，根据用户输入检索回最相关的部分

知识图谱neo4j

微调（nl2sql）大模型

数据采集

结构化数据构建

Mysql

进行中

离线处理

ContextualCompressionRetriever压缩

基于模型抽取

倒排索引构建

query

微调（分类）大模型

文档向量化操作：1. 读取招标公告文件；2. 将文档通过Langchain做parent chunks；3. 基于parent chunks再做child chunks；4. 最终将child chunks存入vector store；5. 查询时，会按照child chunks进行查询；6. 最终返回时，会返回parent chunks，可以尽量保证数据的不丢失。

数据向量化

意图识别

API搜索

1. 读取招标公告文件；2. 将读取到的内容放入prompt中；3. 将以上内容喂入模型（讯飞65B模型），提取数据（招标）：来源网站，项目分类，项目标题，发布时间，招标人，招标人联系人，招标金额等；4. 金额转换为数字，时间转换为日期格式5. 将提取到的结构化数据入mysql库

重排序

关键词召回

数据索引构建

关键词列表+query

问题改写

多路召回