数据治理体系完整指南

本文来源松子聊数据

d19a594dabf61fc988d8a020c413d4b4.png

01 数据治理体系

数据治理体系内容从两个维度来看:

1)数据治理难点痛点:数据脉络不清晰、数据汇聚能力不足、数据管控能力薄弱、数据治理体系不完善、开放形式不完善。

2)数据治理5个核心:理、聚、管、治、用。

b975ee5225e74316e275d2230e8de804.jpeg

数据治理体系主要包含内容有数据标准、元数据、数据建模、数据集成、数据生命周期、数据质量、数据开放、数据安全及数据应用。

4aa3458f023ebb0945282c3619b604bd.png

02 元数据

2.1、元数据解决的问题

有什么数据 - 数据是什么 - 来自何处 - 如何流转 - 谁可以访问

其本质也是一种数据,,开展元数据管理工作是开展数据资产管理的基础。

2.2、元数据分类

业务元数据:描述数据系统中业务领域相关概念、关系和规则的数据;包括业务术语、信息分类、指标、统计口径等。(从业务角度描述的)

技术元数据:描述数据系统中技术领域相关的概念、关系和规则的数据;包括数据平台内对象和数据结构的定义、源数据到目的数据的映射、数据转换加工过程的描述等。

管理元数据:描述数据系统中管理领域相关概念、关系、规则的数据;主要包括人员角色、岗位职责、管理流程等信息。

2.3、元数据模型成熟度

1、第一阶段:需要手动管理元数据,即在数据治理流程外需要额外增加的步骤。

2、第二阶段:在数据探查阶段自动生成元数据。

3、第三阶段:自动构建数据流转元数据。

52b8fe05b434021bfa1481a7e35fd86b.png

2.4、元数据建设目标和管理手段

d4a79fefbf59d3ce00eef37c7849a72e.png

2.5元数据管理

元数据管理方法:

3ad0fac5f839847f007495ba63ec4eb5.png

元数据管理能力:

610128ecf5034d2b73594be4e52ba2ea.png

03 数据标准

常见的数据标准包含基础数据标准和指标数据标准。

357fc798c06abe4033f7079a59d28159.png

主要构成:业务定义+管理信息+技术属性

85195c0fdc4428e6f6dee16089c59dce.png

数据标准包含内容包括:主题&分类+标注属性+标准代码

163e2c023d392d617fc87fc12bae1ac6.png

3.2.2、数据标准类型(举例)

不同行业的标准不同,这里仅是举例说明。

0f480e37819bd89ac44c036858b6d6fe.png

如:性别、身份证、金额、手机号码、行业、级别的分级分类的代码等

3.3、数据标准管理体系涉及思路

数据标准来源于业务,服务于业务。

依据已有标准进行建设

3ef8089d676aa8740b74e3c49d3abdb5.png

基础类数据标准:业务化视角

指标类数据标准:从管理角度出发

c45300b667b44894fdc2f38707b74976.png

数据标准的制定是一个以业务管理为主导、外部要求为依据、企业现状为基础的兼容过程。

3c3845e0f139fc65fab6aa9eedfcea64.png

3.4、数据标准架构体系

通过统一标准和架构规范,统一指标、统一术语、统一模型、统一信息项,解决数据口径解释不清晰、业务和数据理解不一致等问题,实现数据在架构层面的统一

a0bb813fa2cba7ffd9010f6879bd22ed.png

但并非所有基础类数据都要建立标准,纳入标准的数据项需要满足共享性、重要性和可行性的准入原则。

3.5、管理类数据标准建设原则

定义:分析类数据标准的业务含义和所适用的业务场景保持一致。

口径:分析类数据标准的业务取值范围、计算方法和编码规则等业务规则保持一直。

名称:分析类数据标准中文名称和英文名称均采用统一命名规则,表示相同业务含义的信息项名称应保持一直。

参照:各分析类数据标准项标准化时参考的外部标准(包括国际标准、国家标准和行业标准),内部业务制度和业务规范应保持一致。

来源:每个分析类数据标准都应有权威的来源系统;其他系统使用该信息时应直接取用权威系统结果,以保持一致。

3c7c88ea731784bd96528ae21d3c4117.png

以下为某企业数据标准体系框架示例,分为基础类数据标准和管理类数据标准

8d2ed3655f32474a78bb0093d00094df.png

3.6、数据标准生命周期管理

adb851db8baa3ffa999b8e7e04b6df0e.png

04 数据建模

4.1、概念

企业级数据模型建设方法:从全局入手,涉及标准化数据模型,构建统一的数据模型管控体系,丰富和完善数据实体相关属性信息,梳理数据实体之间的逻辑关系,最终形成不同主题域数据模型。

77e75635fd8b6040da4d34368a5bf051.png

4.2、数据模型分类

189e0956e4f03c23d2cff19a29db9295.png

4.3、数据模型生命周期

e9f8466760c22b837bcb3b8035569e33.png

4.4、案例

2735813ef7fdcad15c776d673726d61b.png

05 数据集成

5.1、概念

数据集成:主要是指基于企业分散的信息系统的业务数据进行再集中、再统一管理的过程,是一个渐进的过程,主要有新的、不同的数据产生,就不断有数据集成的步骤和方案执行。数据集成是把不同来源、格式、特点性质的数据在逻辑上或物理上有机的集中,从而为企业数据共享提供基础支撑。

8caf3f07626863428d58104d79cd979e.png

5.2、数据集成整体架构

300eb5c632256c1a72204719e82e36c6.png

06 数据生命周期

6.1、阶段划分

按照两个大的阶段来划分:数据治理规划阶段+数据生命周期管理阶段

acd11b891ca0e0d5ef24855c0744e9cb.png

数据治理规划阶段

  • 业务规划定义阶段:业务规划、业务标准设计

  • 应用设计实现阶段:数据模型设计、应用标准设计、应用设计实现、数据录入

数据生命周期管理阶段

  • 数据创建:利用数据模型保证数据完整、执行数据标准保证数据准确、加入数据质量检查创建准确、保证数据在合理的系统生成;

  • 数据使用:利用元数据监控数据使用、利用数据标准保证数据准确、利用数据质量检查加工准确、确保数据在合理的系统使用、控制数据的派生;

  • 数据归档:利用评估手段保证归档时机、分数据类型规档数据;

  • 数据销毁:利用评估手段保证数据销毁时机,分数据类型销毁数据。

要求

  • 满足对历史数据查询相关政策和管理制度的要求

  • 满足业务操作和管理分析的需要

  • 满足审计管理要求

  • 减少数据冗余,提高数据一致性

  • 存储、硬件、运维等方面基础设施投入

  • 提升应用系统性能,提高响应速度

6.2、管理要求和手段

95cd876157fd46b85d7c3dd416a5435d.png

6.3、管理规范和管理办法

168cc0f5269d0b52ba87347dd706cef1.png

07 数据质量

7.1、数据质量管理目标

  1. 根据数据消费者的需求,开发一种满足数据质量要求的管理方法

  2. 定义数据质量控制的标准和规范,并作文整个数据生命周期的一部分

  3. 定义和事实测量、监控和报告数据质量水平的过程

  4. 根据数据消费者要求,通过改变流程和系统,以及参与可显著改善数据质量的活动,识别和倡导提高数据质量的机会

7.2、生命周期

  • 计划阶段:数据质量团队评估已知的问题范围、影响和优先级,并评估解决这些问题的备选方案。

  • 执行计划:数据质量团队负责努力解决引起问题的根本原因,并做出对持续监控数据的计划(技术问题、流程问题)。

  • 检查阶段:这一阶段包括积极监控按要求评测的数据质量。

  • 处理阶段:处理和解决新出现的数据质量问题的活动。

7.3、数据质量维度

15b5a1489fb3b4ac8d0086aca993311b.png

7.4、数据质量常用工具

3420eb989723595030ecc248befe2f8c.png

08 数据开发

围绕数据价值通道(数据资产 -> 数据服务 -> 业务应用)来设计数据开发的全流程管理,推动数据价值的释放。

cda2b59fb26bc4e092699bf2dfbae39a.png

8.1、数据资产

数据资产的应用实现方式,打通基础数据链条,实现联通协同,提升数据价值

dc4d95fab3aa94dec284a85b66c8bf62.png

数据资产生命周期:注册、变更、监控、下线

4b47b032da41cd7aba03828f9a1b8a0e.png

8.2、数据服务

110221ad0464736e062971ff29a7536a.png

数据服务技术架构:

a6c0514e3fcbef49398c9540778ab2ca.png

09 数据安全

数据安全体系包含:数据安全技术体系+安全管理体系+安全运营体系

068dfbb7792b26c4e23fba5f2d191d72.png

10 ETL

10.1、含义

3a8b2e700f8464ceaafd23bf0d51dd89.png

f53ce8a40abcacb82cb09251cdd0da3e.png

3c7823d3d9790279484b70f37fc88939.png

10.2、ETL模式

04faa7155d31d20df41d18d7279c0c85.png

触发器模式:

ec0f2ede59575a403f3c736f527382ef.png

增量字段模式:

3feda14e0296e49c1353caeec4e41b79.png

全量同步模式:

cc29e938fb0e09aa276ba639f8f473fb.png

日志对比模式:

463575e022c485e8aa8dde8af0809a44.png

不同模式的对比:

7f8fee8e10232924ba5265f927a7afdb.png

10.3、离线和实时

实时数据:

16e4262ed9bebe592f68dd475c42139b.png

cba6d2619cfb3d8635efff0ca02aad02.png

离线数据:

f6edf1394646b13279891bbc531b30b7.png

6af1fb8a2910488e221e91f7f61878c7.png

使用场景:

964a379f48f167913514fd726344a5d4.png

猜你喜欢

转载自blog.csdn.net/huzechen/article/details/129076452