19_07_10_深度学习模型在线部署平台
2019-08-08 18:08:40 1 举报基于k8s+seldon的深度神经网络模型部署平台
作者其他创作
大纲/内容
ci打包部署后台
定时调用任务
Seldon模型部署
脚本管理器
vesta监控后台
模型预测调用
模型部署层
AB test 部署/对比结果数据查看
结果/性能监控
任务管理器
REST/gRPC接口调用
dry run 部署/对比结果数据查看
Kafka服务器
保存模型
@徐慧君
模型A
jupyter训练集群
任务计算层
4560端口监听
后台功能层
重新训练/模型评估
模型C
异常事件存储
kafka任务
主模型
模型测试脚本
Flink实时计算引擎
模型训练管理层
git 托管模型+代码
模型管理
预测结果展示
k8s Pod
模型调用脚本
A/B test
模型网关
获取模型
数据修复/重跑脚本
sidecar监控服务
rabbitMq任务
ceph/nginx网盘中转站
sidecar插件
shadow
普通调用任务
假阳性/假阴性人工反馈标记
dry run compare 脚本
实时数据异常
metrics
模型B
seldon gateway/engine
0 条评论
下一页
