数据中台-治理平台需求版本管理
2021-10-26 14:10:14 23 举报
数据中台-治理平台需求版本管理
作者其他创作
大纲/内容
遂宁定制
•批量设置表的采集状态•单表复制并生成同步任务•保留批量复制表相关日志,可重新创建复制失败的表•元数据管理的数据查看•元数据模型的导入导出•批量生成任务可选择是否结合采集状态•子分类添加无效的提示•批量任务提交,批量运行、批量补数据•任务开发页撤销提交任务•文件采集文件列表页备注及备注操作•任务调度可看到任务状态•任务记录中任务耗时时间•任务记录中可补数据•图标提示任务类型•数据目录可发布文件,其他相关模块皆相应增加•共享文件下载记录o数据源管理中用户名和密码必填o编辑数据源界面分类及名称优化o直接看到分类连接的数据源o元数据管理中表和分类的图标及注释文字o生成任务的来源和目标分类o获取信息和结构比对分开o分类树结构o任务视图显示更多表名信息o新增子分类和分类功能重合问题o按钮颜色的统一和区分o左侧二级目录可折叠,增加配置空间o统一身份认证集成oUI一体化o提示语显示速度o穿梭栏调整o数据目录中接口和表实现一一对应
•非关系型数据库Mongo的数据采集•Impala数据采集、治理•xml类型的接口数据采集•支持自定义表结构•Mysql数据的binl•g日志实时数据采集•运行管理和监控实时任务•批量导出、导入数据表分类、结构信息•批量导出、导入任务分类、配置信息•规则计算任务和质量指标任务及其对应记录•支持excel、csv等非结构化数据采集•自动生成填报页面进行数据采集•自定义数据质量的检查规则•对数据质量检查的监控•数据质量结果的报告模板定义和报告生成•数据质量异常的结果报警•数据质量告警记录
o新增实时计算模块,通过SQL任务的开发o实时计算模块,新增输入组件o实时计算模块,新增输出组件o实时计算模块,新增数据过滤组件o实时计算模块,新增分组汇总组件o实时计算模块,新增「集群管理」o新增「物理视图」统计页面o新增物理视图下钻表列表o新增表信息查看o新增表字段查看o新增数据探查功能
治理平台版本递进
杭州停车定制
株洲/六安容城/慈城
3.0
市域/呼市/大兴/温州停车/广州城管/余姚
3.5
o数据源管理新增FTP、OSS数据源类型o新增文件管理功能o新增脏数据管理功能o新增数据字典功能o同步任务支持文件类型数据源数据传输o数据运维新增系统资源监控o完善运维监控
济宁/青山湖/晋城/新余/萧山/浙大海宁/余姚/怀宁
V2.0
数据中台版本递进
数 据 治 理 台 版 本 升 级
2.5
3.1
V1.0
2.0
•数据源连接测试•数据源所属数仓字段•表血缘连线,查看关联详情•批量复制表分类前缀•表名不同的表同步任务的生成•虚任务,将其配置为任务总开关•数据源配置时基本信息•任务依赖树整体调度功能•依赖的测试和开发的配置隔离•已提交调度任务无法删除•文件采集功能•接口、执行器、存储阈值异常监控•告警规则管理和告警记录功能•用户管理中邮件字段•角色管理•系统日志定时删除功能o元数据管理的功能结构o元数据分类树中表排序o元数据高级过滤功能o存储监控o任务记录内容o数据目录管理添加表表弹窗o分类树在编辑框中的下拉选择o分类树根目录o所有模块分类树结构
V1.5
•数仓管理功能•FTP任务•转换、清洗任务运行前后数据比对查看o系统的菜单结构
1.5
0 条评论
下一页