知识图谱赋能大模型案例-7张
2025-01-25 23:14:09 3 举报目前，知识图谱与大模型的融合已是热点研究对象，其中，通过知识图谱可以赋能大模型中预训练、监督微调、对齐微调、模型评估、模型推理等每个步骤。本作品聚焦于知识图谱赋能大模型的技术路径，内容参考自《知识图谱与大模型融合实践研究报告》，展示了7张相关图，分别是：①知识图谱赋能大模型的技术路径、②利用知识图谱增强大模型预训练、③利用知识图谱增强大模型的监督微调/对齐微调、④用知识图谱增强大模型的常识和领域知识推理能力、⑤用知识图谱增强大模型推理的可解释性、⑥基于知识图谱增强大模型的文档问答、⑦知识图谱赋能/增强大模型系统测评体系。
作者其他创作
大纲/内容
实体序列
赵挺之
推理路径
母亲
姚明的职业是[MASK].
动态修剪
知识图谱
输入文本
结果输出
运动员
知识图谱赋能/增强大模型系统测评体系
he1
数据输入
首都
融合模块
知识图谱输出
大模型
预训练
监督微调
文本知识
大模型调用
模型推理应用阶段
模型测评阶段
中国
① 实体别称补全 实体上下位推理
向量检索
答案：运动员
利用知识图谱增强大模型预训练
结果封装
T-编码器
...
李清照
基于知识图谱增强大模型的文档问答
赵明诚
分类、实体识别、翻译
模型部署
h1
金
模型训练
M层
国家
可评价性
大模型到知识图谱
辅助决策
可解释性
③ 知识修正 知识溯源
在
h12
答案
输入文本：李清照给赵明诚一封信
融合成本
问题生成器
天龙八部
内容加工
(姚明span style=\"font-size:22px; color:#000000; letter-spacing:0px;\
基于知识图谱的对齐微调训练
内容生成
Self-Attention
1.知识检索增强大模型推理2.从知识图谱获取动态规则增强大模型推理
基于知识图谱反馈的强化学习训练
通过知识审查的模型评估
语义理解
基于知识图谱的监督微调训练
1.作为高质量训练数据2.注入训练目标，增加约束条件
出生于
全文检索
知识图谱赋能大模型的技术路径
2、在线部分使用知识图谱增强大模型的问答效果：在意图识别阶段，用知识图谱进行实体别称补全和上下位推理；在 Prompt 组装阶段，从知识图谱中查询背景知识放入上下文；在结果封装阶段，用知识图谱进行知识修正和知识溯源。
文本分段
掩盖的实体预测
输入文本：金庸在1963年开始写天龙八部
金庸
智能对话
推理规划
大模型表征
大模型到知识图谱 Attention
基础常识
用知识图谱增强大模型的常识和领域知识推理能力
用户问题
问题附件
h3
实体
大模型开发
文本-知识对
数据建模
知识图谱表征
Prompt
信
全文索引
情感分析
训练数据
用知识图谱增强大模型推理的可解释性
文本表征
模型推理
模型评估
上下文理解
对齐微调
利用知识图谱增强大模型的监督微调/对齐微调：通过指令微调训练和基于知识图谱反馈的强化学习；通过文本-知识对齐将知识图谱信息注入到大模型的训练目标中，增强大模型预训练能力。
大模型编码器
模型训练调优阶段
预测
链接关系
文本序列
知识检索
职业
一封
文本-知识对齐
[MASK]
智能推荐
上海
融合增益
验证
LLM api
常识能力
知识运维能力
王氏
h2
文本输出
大模型安全
部
向量索引
利用知识图谱增强大模型的监督微调/对齐微调
候选段落
问题：王治郅来自哪个国家?
掩盖的文本预测
知识实时性
事实
文本转向量
答案推理
可溯源性
1、离线部分对文档进行预处理，构建段落级索引，包括全文索引和向量索引。
姚明
王治郅
Attention
文本提取
庸
联合推理层
计算资源
② 行业背景知识补全
知识准确度
可信耐性
父亲
大模型能力
知识图谱到大模型 Attention
he2
智能检索
答案：中国
意图识别
文本图
K-编码器
作品创作
关键词提取
N层
提示组装
知识图谱编码器
同事
响应速度
认知能力
可校验性
存储资源
给
知识可信度
文本段落综合排序
大模型应用
北京
爱人
在线
离线
模型管理
机器翻译
0 条评论
下一页
