大模型AI技术架构图
2024-08-03 15:33:11 0 举报
大模型AI技术架构图，大模型微调、推理、部署、应用架构图
作者其他创作
大纲/内容
Accelerate
web应用框架层
部署框架整合
大模型部署框架
LLaMA-Factory
web开发应用层
......
agent
API适配
大模型微调框架
web端服务
OpenAI API 接口对齐
知识库管理
对话应用管理
提示工程
集群/异构
提示词模板
DeepSpeed
权限管理
输出/对外提供大模型能力
微调后模型
嵌入式模型
移动端服务
数据集管理
模块开发部署层
LLM（QWEN\\GLM..）
模型调用服务
模型加载管理
模型微调层
模型管理
Xinference/fastchat推理和部署服务
应用服务层
开发框架调度层
模型适配层
大模型开发框架
加速推理引擎
0 条评论
回复 删除
下一页
