大模型应用的架构设计模式
2024-08-19 23:18:27 4 举报
图中展示了6种大模型应用的架构设计模式，分别是：1、路由分发架构模式；2、路由分发架构模式；3、基于缓存的微调架构模式；4、面向目标的 Agent 架构模式；5、Agent 智能体组合架构模式；6、双重安全架构设计模式。
作者其他创作
大纲/内容
Agent A
智能体选择器
Agent C
Agent B
子任务A
输出C
智能体组合架构模式
最终答案
Prompt 查询
输出B
输出A
小模型B
Prompt
小模型A
小模型C
子任务B
2
子任务C
大模型 (任务规划和拆解)
路由转发模块
选择规则调整
结果缓存
后续 Prompt 查询
3
统一结果
最终结果
初始的 Prompt 查询
大模型
5
输出集成
基于缓存的微调架构模式
③
4
Action 执行
④
Planning 规划
大模型C
微调
面向目标 Agent 架构模式
路由分发架构模式
Proxy 代理
1
6
大模型代理架构模式
大模型应用的架构设计模式
清洗过的 Answer
防护墙
Answer
清洗的 Prompt
清洗后的 Prompt
可识别的 Prompt查询类型 B
⑤
可识别的 Prompt 查询类型 A
②
①
不可识别的 Prompt查询类型
Observation观测
0 条评论
回复 删除
下一页
