机器学习推理分层部署系统
2025-03-19 11:27:34 0 举报典型机器学习分层模块部署系统，以国产机器学习框架 MindSpore 为例进行层级划分。
作者其他创作
大纲/内容
基础设施层
Nginx（负载均衡）
FastAPI App（业务逻辑）
服务层
Pydantic（数据校验）
Redis（缓存/消息代理）
接入层
Docker(容器化)
MindSpore Lite（推理引擎）
Prometheus(监控)
Celery（异步任务队列）
模型层
CANN（昇腾加速库）
FastAPI（API 网关）
收藏
0 条评论
下一页
