DataOps,即Data和Operations组合,在企业数据能力构建中,帮助企业提升数据质量,减少数据分析的周期时间,提高效率方法,DataOps适用于数据源到数据洞察分析整个数据生命周期。本文主要从企业数据应用的现状问题进行切入,讲解DataOps如何助力企业实现数据能力构建。
数据工作的开展现状
企业在数据管理过程中经常会遇到各种各样的问题。
数据孤岛/烟囱作业
支撑业务应用的数据建设,往往很多都是烟囱式建设,以至于团队无法进行有效的协同协作,存在割裂断层的问题,同时对于异常问题的定位存在较大难题,数据孤岛的情况、烟囱作业造成低效率的数据协作方式。
数据口径问题
随着企业数字化转型的深入,企业内部数据也越来越多样、复杂,数据指标口径不统一逐渐成为“通病”,造成企业内部数据无法进行有效连接,而数据口径不一致、不精准,对企业决策造成巨大影响,因此统一数据口径变得尤为重要。
团队协作问题
企业数据体系建设,经常面临不同团队之间开放协作问题,如集团类型企业,针对不同子公司,在多租户的管理和存储计算能力的隔离,以及开发过程中开发权限、数据权限,数据的共享、复用等都存在问题。企业如果不进行数据资源管理,并对团队之间的资源、权限、数据安全进行隔离管理,就会产生数据混淆,互相影响等问题。
数据治理问题
数据治理基本上涵盖了企业所有与数据有关的流程,对企业而言,数据治理关系着企业数据的全生命周期,只有通过数据治理,保证数据的可用性、一致性、完整性,才能充分挖掘数据价值,用数据驱动业务发展,进而实现企业数据资产的盘活和有效利用。
数据安全管控
数据安全也是企业数据能力建设的重要内容之一,数据安全是数据价值释放的前提,一旦关键的数据遭到安全威胁,企业面临着陷入混乱的风险,带来难以估量的损失,只有在可以安全合规使用的前提下,数据才能作为资产发挥最大价值。
数据智能场景
以“数据智能”驱动企业高质量发展成为数字化进程的一个重要特征。越来越多企业数字化转型更加重视将数据服务嵌入企业各个业务场景中,并通过智能化产生价值,用数据助力业务创新、发展,加速释放数据价值。
DataOps是什么?
什么是DataOps?
DataOps is a set of practices, processes and technologies that combines an integrated and processoriented perspective on data with automation and methods from agile software engineering to improve quality, speed, and collaboration and promote a culture of continuous improvement in the area of data analytics.
上述来源维基百科
可以看到,DataOps强调的是实践、流程、工具、技术、可持续,核心是提高数据工作的质量、速度和协作。要沉淀完整的DataOps能力,离不开长期的围绕数据各生命周期和环节的实践积累,以及具备极高的实践过程中方法论的抽象能力,且Dataops是建设全域数据资产并实现数据赋能业务闭环的有效推动者 。
DataOps
科杰科技将其在超大规模企业十多年产品技术实践积累和方法论抽象成产品-KeenData Lakehouse ,产品内置DataOps 流程模型和思维模型,通过支持数据集成、数据版本控制、数据转换、数据开发、智能识别数据关联、数据血缘解析、自动沉淀数据资产来增强和推进数据治理,为企业提供一站式数据源到数据洞察分析和数据编织的能力,领先的产品和方法论帮助多个大型企业完成数据底座建设。
产品技术层面,DataOps由以数据同步+数据开发+资产目录+运维监控+数据科学+数据服务为核心的数据底座工具构成,覆盖从离线数据采集、实时数据同步、离线/实时数据计算、数据质量和标准管理、数据资产运营、数据算法挖掘、数据服务到数据开放全链路的标准大数据体系建设,形成“数据可见、组件成熟、体系规范”的底座能力。
DataOps具备如下特点:
- 数据体系化建设
- 统一数据语言标准
- 多模式数据链路开发
- 数据链路可视化监控
- 大型团队协同开发
- 数据标准制定
- 数据质量监控
- 大数据算法模型训练&应用
流程和组织层面,DataOps是一个完整又独立的体系,全线产品都支持乐高式任意组合能力,这也是数据能力建设流程方法论贯穿始终的体现。如下是常见场景举例:
- 数据集成/同步场景:租户配置+数据源/资源管理+数据同步+运维监控;
- 数据治理/建设场景:租户配置+数据建模+数据标准+数据质量+数据指标;
- 数据开发场景:租户配置+数据同步+数据开发(离线/实时)+运维中心+数据服务;
- Lakehouse场景:租户配置+数据源/资源管理+湖仓融合+数据治理+数据开发+数据服务;
安全管控层面,DataOps从数据安全、系统安全、审计安全、容灾灾备、安全合规等多方面进行管理管控,保障任一数据产品组件的安全性。
- 数据安全:加密脱敏、分级分类、细粒度权限授权等;
- 系统安全:权限资源隔离、防数据篡改、安全运维、特权账号等;
- 安全合规:等保三、国家网络安全等级保护2.0、护网行动、行业监管要求等;
科杰科技依托于Dataops的工具和方法论,将大数据工程技术、数据建设流程、数据安全管控、数据管理制度体系产品化并紧密关联,用户可以利用数据平台工具持续获取和应用数据,洞察分析数据并优化业务运营。