大模型开发框架架构图
2024-08-05 19:26:13 3 举报大模型开发框架架构图
作者其他创作
大纲/内容
RAG
数据集管理
Accelerate
提示工程
模型适配层
权限管理
分布式集群部署
模型开发框架
知识库管理
......
TensorRT-LLM
网络
开发框架适配层
Fine-tuning-model
Agent
DeepSpeed
数字员工
模型部署框架
OpenAI接口对其
web应用框架
行业场景应用
模型加载管理
推理引擎适配
存储
应用层
CPU
Tools
GPU
模型管理
模型训练层
模型适配
推理平台集成
知识库助手
智能文档审核
模型微调框架
虚拟化
模型服务层
应用服务层
提示词模版
基础设施层
应用对话管理
0 条评论
下一页
