数据质量管理学习笔记

近几天看了项目中一些数据质量管理的文档,较之前产品规划中的空想设计又前进了一步,可以实际落地一些功能。下图为数据质量管理的总体框架,其中,

  • 数据标准、元数据是数据质量管理的前提和基础,只有将源数据的字段类型、字段值范围等调查清楚,才能设计出数据质量评估的规划体系;
  • 常规的数据质量检查包括五类,即完整性、有效性、一致性、惟一性和时效性,都是以字段为检查对象,可以发现数据中的脏数据,将问题数据扼杀在摇篮中。
  • 对于检查发现的问题,需要通过流程、组织、工单等IT化手段进行跟踪和解决。

对于这个数据质量管理的框架,个人理解仍然偏重于基础数据的数据质量管控,对于更加上层的统计指标的准确性、一致性、惟一性等均没有涉及,以前实践中的数据平衡公式应该可以用于检查准确性方面的问题,即将统计指标之间的逻辑关系梳理出来,比如,期末帐户余额=期初余额+用户充值-余额扣费;惟一性方面的问题通过构建合理的指标库进行解决;一致性方面的问题可以通过指标的血源分析解决
数据质量管理总体框架
数据质量检查的技术框架如下图所示,这里主要是检查规则配置、检查规则执行和问题跟踪。对于检查规则,应该可以用通用的规则引擎进行解决,目前项目中自己写了一套规则解析和执行的程序。
数据质量检查技术框架
下面是项目中用到的一些检查规则范例,从这些规则也可以看出,这些检查规则通常也是IT系统的数据约束规则,会内置到相关的程序代码中,正常情况下不会出现违反这些规则的”脏数据“。如果出现类似的数据,应该第一时间和业务系统进行沟通,通过完善IT系统、规范业务流程去规避问题数据的出现。
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/weixin_42893650/article/details/88414509