人工智能架构建设(二)
2024-01-29 13:00:31 4 举报
人工智能架构建设(二)是指在人工智能技术的基础上,对系统进行优化和升级,以提高其性能和效率。这个过程包括了数据管理、算法选择、模型训练和评估等方面。在数据管理方面,需要建立有效的数据收集、存储和处理机制,以确保数据的质量和可用性。在算法选择方面,需要根据具体应用场景选择合适的算法,并进行优化和调整。在模型训练和评估方面,需要使用大量的数据进行训练,并通过测试和验证来评估模型的性能。总之,人工智能架构建设是一个复杂而重要的过程,需要不断地进行优化和完善。
作者其他创作
大纲/内容
深度学习
任务编排
存储管理
分布式任务编排框架
跨集群算力调度
统一调度算力平台
算力调度层
任务排队
管理端
GPU 池化
算力自服务
异构 信创/非信创 算力
模型调优
模型体验
集群管理
用户端
异构GPU/GPU算力
模型微调
知识库
算力可观测
异构算力资源
模型训练
算力优化调度
监控管理
向量数据库
数据插件
GPU 虚拟化
......
基础设施层:包含不同地理分布的支撑上层大模型计算的异构算力资源,包括CPU/GUP/以及信创/非信创 算力资源
产品输出层:基于企业专用知识构建核心能力,针对不同智能内容生成场景,组合语料库、大模型以及配套企业化能力
云原生的调度系统
算力调度层:通过云原生技术构建的、可以横向扩展的分布式算力调度能力,能够对底层异构资源进行池化管理和优化调度
数据清洗
大模型仓库
模型推理
计算编排层
模型镜像
基础设施层
弹性扩展
数据集管理
管理管理
分布式大模型执行引擎
产品输出
提示词
账号管理
权限管理
计算编排层 :围绕大模型的全生命周期,充分利用底层分布式算力调度,提供包括数据管理、模型训练、模型微调、推理服务等任务的分布式管理能力
算力仪表盘
0 条评论
下一页