工程优化o2/kr2+其他相关o
2021-09-06 10:44:06 0 举报AI智能生成
基本确定项目二需求
作者其他创作
大纲/内容
所有镜像做成Dockrfile
推理镜像标准化
做成镜像
推进
预研
推理加速工具标准化
开发通用算法工具
推理环境
项目四
☑️ 所有镜像Dockerfile化（包括现有在使用的镜像）
Tensorflow
Pytorch
ONNX
CPU基础镜像
☑️ 制作镜像：推理框架
☑️ 编写测试代码
抽象、统一、沉淀算法推理公共工具，建立规范
目标
12人天
时间
里程碑
制作通用、规范的基础推理镜像
☑️ 通用TensorRT加速方案
☑️ 封装TensorRT调用接口、环境
TF session.run？
Keras.fit?
☑️ 使用不同框架时的性能最优推理方案
☑️ 制作镜像
☑️ 针对性能测试编写benchmark代码
抽象、统一、沉淀算法推理加速环境、工具、方案
20人天
推理加速
推理环境规范化
使算法兼容具体的硬件环境，提升算法稳健性
☑️ 算法封装针对不同硬件的兼容性适配方案
抽象算法封装共性，统一服务规范，沉淀成工具
☑️ 算法服务化的标准封装框架
算法封装标准
项目二：需求
服务化封装框架
针对不同硬件的兼容性适配方案
工程优化o2/kr2+其他相关o
0 条评论
回复 删除
下一页
