制造类企业平台级数据治理建议是什么?

制造类企业平台级数据治理建议是什么?

最佳答案 匿名用户编辑于2023/09/07 15:06

建议从以下方面入手:  

1. 国家层面的数据治理导向

国家重点推动工业互联网建设和企业 数据治理。2020 年 5 月工信部颁发《关于 工业大数据发展的指导意见》,推动工业数 据全面采集,加快工业设备互联互通,推动 工业数据高质量汇聚,统筹建设国家工业大 数据平台,推动工业数据开放共享,激发工 业数据市场活力,深化数据应用,完善数据 治理。2020 年 9 月国务院国资委办公厅下 发《关于加快推进国有企业数字化转型工作 的通知》,要求各国有企业加快集团数据治 理体系建设,提出构建数据治理体系,“明 确数据归口管理部门,加强数据标准化、元 数据和主数据管理工作”,“定期评估数据 治理能力成熟度”。同时,“强化业务场景 数据建模,深入挖掘数据价值,提升数据洞 察能力”,提升数据服务水平。2022 年 4 月 19 日,习近平总书记主持召开中央全面 深化改革委员会第二十五次会议(以下简称 “会议”),审议通过了《关于加强数字政 府建设的指导意见》,强调要全面贯彻网络 强国战略,把数字技术广泛应用于政府管理 服务,推动政府数字化、智能化运行,为推 进国家治理体系和治理能力现代化提供有力 支撑。加强数字政府建设的关键在于抓出“数 据治理”牛鼻子,综合运用好制度和技术工 具,在保障数据安全的前提下,打通各级政 府和各部门之间数据共享堵点,破除“数据 孤岛”顽疾。

 

根据国家的数据治理导向得出的启示:制造业企业当下应抓住机遇,积极推进企业智能 制造和数据治理,实现转型升级。 第一,制度与技术双轨并行。加强顶层设计 , 强化技术支撑,发挥制度与技术的高效融合, 在保障数据安全前提下推进数据高效利用,提升数据治理有效性与安全性,推进制造业企业 数字化转型和数据治理平台建设。第二,强化创新引领。制造业转型升级的主要支撑因素是技术创新能力的提高,目前, 我国智能制造处于初级发展阶段,须在关键短板装备、基础零部件、工业软件等关键环节和 薄弱领域寻求突破,以技术创新支撑制造业向智能制造转型升级。 第三,系统总结并复制推广智能制造示范项目经验模式。对《智能制造发展规划 (2016-2020 年)》《智能制造工程实施指南(2016-2020 年)》进行系统评估,继续推进 智能制造示范项目,坚持以应用促发展,进一步推进示范应用,将形成的经验模式向同行业 同类型企业复制推广。

第四,发挥强大国内市场优势,强化市场拉动作用。打通国内巨大市场需求的恢复和增 长链条,为制造业智能化转型和生产率的提高提供更多机会,为新技术、新产品发展创造更 多商业化的应用场景。 第五,加大政策引导和资金支持力度。进一步鼓励全国产业转型升级示范区出台和落实 精准有效的政策举措,保障企业智能制造在人、财、物等要素的需求,推进制造企业进行系 统化、智能化、数字化转型。

2. 平台化的集中式数据治理

软通动力以为企业数字化转型为重点 构建了软通动力数据治理体系。数据作为一 种新的生产要素,在企业构筑竞争优势的过 程中起着重要作用,企业应将数据作为一种 战略资产进行管理。软通动力作为中国领先 的软件与信息技术服务商,以用数字技术提升客户价值为愿景,从为客户战略规划,业 务运营,应用系统构建,为客户提供全面的 端到端的咨询与实施服务的根本目标出发, 并结合软通动力多年来积累的企业数据治理 经验,构建了软通动力 - 数据治理框架。

建设一个完美的数据治理平台是企业实现数字化转型和数据治理的必经之路。数据从业 务中产生,在 IT 系统中落地,决定了企业数据治理工作必须充分融入到企业的数据治理平 台建设中去。

数据治理平台建设的七个关键步骤: ( 一 ) 平台设计:企业数据治理平台设计要 充分考虑企业数据架构,包含但不限于需求 分析、总体架构设计、数据规范定义、数据 引入和数据指标设计等。在数据治理平台设 计过程中还需充分考虑到平台界面设计、数 据库设计、数据集成方案设计,向上承接企 业数据战略的规划要求,向下要保证字段遵 从数据标准的定义,库表和字段的设计满足 企业数据架构的设计要求,从而达到数据治 理融入到数据治理平台的目标。 ( 二 ) 数据采集:数据采集是企业数据治理 平台建设的基础,主要指数据的收集和同步。 数据同步包含同构 / 异构数据库同步、基于 Log 的文件同步、实时数据同步、增量 / 批 量数据同步和非结构数据同步等。 ( 三 ) 数据开发:数据开发是数据治理平台 发挥作用的重要保障。数据开发主要包括数 据分布、数据对比、数据脱敏、数据重构和 数据修改等。

( 四 ) 数据管理:数据管理是数据治理平台 发挥作用的有效措施。重要包含数据标准、 数据质量、主数据、元数据以及数据的生命 周期和数据安全的管理。其中数据标准是在 企业范围内确保数据一致的关键,是企业需 共同遵守的属性层数据含义及业务规则,是 对某个数据的共同理解,这些理解一旦确定, 就应作为企业层面的标准在企业内被共同遵 守。 ( 五 ) 数据建模:数据建模是从数据的视角 对企业的业务对象、业务过程和业务规则的 模拟和抽象,根据业务需求抽取信息的主要特征,反映业务信息之间的联系关系,是建 设一套完美的数据治理平台的关键。数据建 模主要包括概念模型、逻辑模型和物理模型 的设计。 ( 六 ) 数据应用:数据应用是企业数据治理 的成果展示,主要包含数据可视化、BI 报 表展示、企业图谱、智能推荐和精准营销等。

( 七 ) 平台运维:平台运维是保证数据治理 平台正常运转的有效措施。主要包含监控管 理、安全管理、报告和持续改进和优化等。 其中持续改进和优化是建设一个完美的企业 数据治理平台的必要保障,企业的数据治理 平台建设不可能一蹴而就,需要根据企业的 发展和业务状况不断改进和修正,最终达到 建设完美的企业数据治理平台的目标。

数据治理平台需具备的关键功能: ( 一 ) 数据源:数据同源是数据治理的核心,所以数据治理平台的数据源必须支持主流的数 据库接入,开放式数据库连接驱动,保证企业所有系统的数据都可接入,实现对其进一步处理。 (二 )数据集成:企业的数据集成的价值体现在速度上、促进智能分析和促进管理水平提升等。 一个完美的数据治理平台需要具有高效的数据库传输方式,可视化配置等功能。 ( 三 ) 数据开发:用编写代码的方式构建复杂的数据模型和不同类型的代码任务,降低代码 开发的成本和门槛,轻松实现数据间的互联互通。 ( 四 ) 数据质量:数据质量的持续提升是数据治理的核心目标。需要数据治理平台具备提升 数据质量的能力,保障数据的安全,对数据质量进行实时监控,第一时间感知脏数据,并采 用一定措施不断提升企业数据质量。

(五 )运维监控:数据治理平台需要具备提供各种任务操作与状态、告警等多方位的运维能力, 提供图形化任务管理模式,任务依赖图逐级展示等功能。 ( 六 ) 数据地图:数据治理平台需要具备数据资产的元数据信息查看、数据明细信息、分区 信息、血缘分析等功能,方便对数据进行检索分析等。 ( 七 ) 数据服务:需要支持数据云处理,支持通过可视化配置的向导模式,快速将关系型数 据库生成 API ,方便提供各种数据支持。

软通动力与亚马逊云科技强强联手,建立了基于软通动力 DataGo 和亚马逊云科技云 原生架构的数据治理平台。随着企业数字化转型和数据治理的推进,大数据、云计算等技术 的应用和普及,数据处理呈现出新的特征,业务变化快、数据来源多、系统耦合多和应用深 度加深等。传统的大数据建设和开发周期已经不能满足业务的需要,需要一个更快的建设周 期、更快的开发效率的平台。在这种境况下,软通动力自研 DataGo 平台协同亚马逊云科技 共同建立一套数据治理平台。

DataGo 数据治理平台:DataGo 数据治理平台是依托软通动力多年的数据中台实施经验, 自研的一款数据开发治理平台,为企业提供全生命周期的数据管理工具,助力企业轻松完成 数据开发治理工作,降低数据开发和管理成本,提高数据开发效率,规范数据管理方法,提 高数据质量。

DataGo 数据治理平台的优势:基于计算源和底层资源,提供工作空间、数据源、数据集成、 数据开发、数据质量、运维监控、数据地图、数据服务等。其中最主要的有三点:功能覆盖 全面,性价比高 ; 快速部署 ; 轻耦合性。

亚马逊云科技数据治理体系:亚马逊云科技数据治理流程是通过获取流程数据,了解企业相 关业务的流程、组织及技术能力,并从相关数据状态中获得更多业务洞察;结合业务实例, 实时政策动态、架构等变化因素,有针对性地制定数据治理策略,构建以探索驱动定义的数 据治理模式。

亚马逊云科技的优势:易于使用,通过亚马 逊云科技能够轻松地在数据湖与专用数据服 务之间移动数据。例如,Amazon Glue 是 一项无服务器数据集成服务,它简化了准备 数据以进行分析、机器学习和应用程序开发 的工作;更快的数据集成,亚马逊云科技能 够在不同数据源之间查询数据,例如数据库、 数据湖和数据仓库。例如,通过 Amazon Athena 可以使用 SQL 来查询数据湖,而通 过联合查询可以从关系数据库查询实时数 据;便于移动,利用存储在不同系统中的数 据,亚马逊云科技让您能够轻松地在自己的 所有服务和数据存储之间移动数据:从内向 外、从外向内,以及循环移动。

基于软通动力 DataGo 和亚马逊云科 技云原生架构的数据治理平台核心优势明 显,帮助企业快速实现数据治理上云。软通 动力的数据治理服务以自研的数据治理平 台 DataGo 为框架,基于亚马逊云科技云原 生组件,可全方位满足客户对数据标准、数 据开发、数据血缘、数据集成并形成数据服 务以及后续数据运维的需求。可以帮助客户 实现对重点业务数据采集完备,粒度统一, 指标统一,前后贯通,及时同步;灵活满足 支持业务需求和分析需求,实现数据驱动 业务;全销售渠道数据协助决策,仪表板 数据自助分析平台,增强营销效率 , 帮助 实现多场景营销活动等诉求。

( 一 ) 计算存储引擎。计算存储引擎是存储 数据的物理数据库。通过创建数据源的方 式,将业务数据引入 DataGo 平台计算源 EMR 的 hive 中 进 行 构 建 数 据 中 台。 同 时 也可以将已构建完成的数据导入数据源。 DataGo 基于亚马逊云科技丰富的云服务、 提供了丰富的数据库类型接入,包括主流 的关系型数据库以及分布式数据库,能将 业务系统数据对接到平台中,提供后续建 模分析使用,数据源是数据建设的来源或 基础。通过与 Amazon RDS 数据库产品以 及 Amazon Redshift 产品对接, 制造数据 治理存储层能够非常好的满足各类不同数 据 库 类 型,Amazon Relational Database Service (Amazon RDS) 让您能够在云中轻 松设置、操作和扩展关系数据库。它在自动 执行耗时的管理任务(如硬件预置、数据库 设置、修补和备份)的同时,可提供经济 实用的可调容量。这使您能够腾出时间专 注于应用程序,为它们提供所需的快速性 DataGo 与亚马逊云科技数据治理平台架构示意图。 能、高可用性、安全性和兼容性。Amazon RDS 在 多 种 类 型 的 数 据 库 实 例( 针 对 内 存、性能或 I/O 进行了优化的实例)上均可 用,并提供六种常用的数据库引擎供您选 择,包括 Amazon Aurora、PostgreSQL、 MySQL、MariaDB、Oracle Database 和 SQL Server。借助 Amazon RDS 强大的性 能、可靠性、可扩展性以及数据安全性,能 够非常好的实现制造业对数据源的需求。 Amazon Redshift 是一种完全托管的 PB 级 云中数据仓库服务。能够使用 SQL 在数据 仓库、运营数据库和数据湖间分析结构化和 半结构化数据,从几百 GB 数据,扩展至 1 PB 或更多,支持制造数据治理平台通过运 营数据库、数据湖、数据仓库和数千个第三 方数据集,对复杂的规模化数据进行实时和 预测性分析,获得综合洞察。

( 二 ) 全 域 数 据 集 成。 数据集成是基于 DataGo 构建的简单高效的数据同步平台,致力于提供具有强大的数据预处理能力、丰 富的异构数据源之间数据高速稳定的同步能 力。数据集成采用了 Amazon DMS 技术对 繁多异构数据源提供稳定高速的迁移能力。 将数据引⼊,通过数据集成任务,将所需的 源数据同步至目标数据库。使用 Amazon Glue 完成对数据流的接收、处理和使用, Amazon Glue 是一项无服务器数据集成服 务,它简化了发现、准备和合并数据以进行 分析、机器学习和应用程序开发的工作。支 撑制造业应用系统中各种数据来源的发现和 数据的提取,将之丰富、清理、标准化和合并, 以及在数据库、数据仓库和数据湖中加载和 组 织 数 据。Datago 与 Amazon Glue 组 件 紧密结合,借助 Amazon Glue 强大的性能, 实现对数据的收集。Amazon Kinesis 可让 用户轻松收集、处理和分析实时流数据,以 便及时获得见解并对新信息快速做出响应。 Amazon Kinesis 提供多种核心功能,可以 经济高效地处理任意规模的流数据,同时具 有很高的灵活性,与 DataGo 组件集成可以 获取 ERP 实时数据,工厂采集数据,供应 链上报数据 ,也可以获取用于机器学习、 分析和其他应用程序的 IoT 遥测数据。

( 三 ) 智能数据开发。数据开发是 DataGo 的核心功能,支持数据开发和临时查询。通 过编写 SQL 代码的方式构建复杂的数据模 型、构建不同类型(周期 / 手动)的代码任 务,点击“运行”对任务进行试跑,并查看 任务的运行情况,还可以选中“select”语 句,运行查看“结果”,且为任务配置调度 周期和任务之间的依赖关系,完成后即可点 击提交按钮将任务提交并发布,提交后即刻 生成版本记录,方便开发者进行各个代码版 本之间的代码对比,至此就便捷的完成 ETL 开发流程。任务的周期调度类型支持分,时, 日,周,月,年的粒度,最小支持到每 5 分 钟的调度,还可为任务设置优先级等操作。 此外临时查询是面向业务主题的数据查询, 屏蔽了物理模型中技术特性带来的影响,基 于逻辑模型从业务视角出发对外提供查询 服务。同时,数据开发模块对接了 DataGo 的权限管理、运维和用户管理,致力于为 您构建便捷、高效的数据开发平台。基于 Redshift, Amazon Glue 能够在数据开发层 面为 DataGo 提供强大的支撑,实现高效数 据开发。

( 四 ) 数据质量。数据质量是对数据模块构 建计算任务过程中的数据和结果数据的正确 性进行表级校验和字段级校验的功能,主要 功能模块是数据校验和规则模板。数据校验: 选择校验方式(表 / 字段)的目标表,选取 规则模板(内置模板和负责模板)配置具体 规则,其中内置模板中的表级规则有:表行 数,固定值;字段规则有:唯一值个数固定 值,空值个数固定值,空值个数 / 总行数固 定值,重复值个数固定值等;规则模板则是 自定义通过 SQL 来创建模板规则;校验规 则配置完成后可通过调度配置将数据校验任 务和调度系统打通,通过调度系统触达数据 质量的规则校验。还可设置质量告警功能, 第一时间感知异常数据。

( 五 ) 数据服务。数据服务旨在为企业搭建 统一的数据服务总线,帮助企业统一管理对 内对外的 API 服务。数据服务支持通过可 视化配置的向导模式,快速将关系型数据库 和 NoSQL 数据库的表生成 API。您无需具 备编码能力,即可快速配置一个 API。API 网关提供 API 托管服务,涵盖 API 发布、 管理、运维的全生命周期管理。帮助您简 单、快速、低成本、低风险地实现微服务聚 合、前后端分离、系统集成等功能和数据。 数据服务采用 Serverless 架构,您只需要 关注 API 本身的查询逻辑,无需关心运行 环境等基础设施,数据服务会为您准备好计 算资源,并支持弹性扩展,零运维成本。数 据服务是基于 DataGo 建设数据中台的最后 一步。数据服务作为统一的数据服务出口,实现了数据的统一市场化管理,有效地降低 数据开放门槛的同时,保障了数据开放的安 全。 使 用 Amazon Opensearch、Amazon Quicksight 服 务 帮 助 DataGo 的 产 品 解 决 数据服务上的问题,实现快速搜索,整合的 能力。

( 六 ) 数据安全。同一个 DataGo 工作空间 可以添加多个用户 , 为保障数据安全工作空 间为用户提供了用户及角色等身份,您可以 针对不同用户的工作空间使用需求,授予其 相应的功能权限角色。一个组织可以包含多 个工作空间,每个工作空间的数据是隔离的。 添加进组织的每个用户至少归属于一个工作 空间,空间管理员拥有其所在空间的所有工 作权限。基于对角色和用户的访问权限控制, 对 hive 实现统一的,细粒度的数据访问权 限控制,用户角度可以查看对数据有哪些权 限,从数据角度,可查看哪种角色有何种权 限。基于亚马逊云科技的安全技术架构,可 以实现划分部门、产线、车间、仓号等不同 自定义的行级别权限管理,用数据架构和业 务场景的交互,实现数据全生命周期的安全 管理。

3. 推进数据进行资产化管理和应用

良好的数据资产管理是释放企业数据要素价值、推动企业完成数据治理的前提与基础。 随着数据的重要性日益显著,数据资产管理成为激发组织数据要素活力、加速数据价值释放 的关键。数据资产(Data Asset)是指由组织(政府机构、企事业单位等)合法拥有或控制 的数据资源,以电子或其他方式记录,例如文本、图像、语音、视频、网页、数据库、传感 信号等结构化或非结构化数据,可进行计量或交易,能直接或间接带来经济效益和社会效益。 在组织中,并非所有的数据都构成数据资产,数据资产是能够为组织产生价值的数据资源, 数据资产的形成需要对数据资源进行主动管理并形成有效控制。

建设企业级数据资产管理架构是企业数据发挥高效价值的有力保障。数据资产管理包含 数据资源化、数据资产化两个环节,将原始数据转变为数据资源、数据资产,逐步提高数据 的价值密度,为数据要素化奠定基础。数据资产管理包括数据模型管理、数据标准管理、数 据质量管理、主数据管理、数据安全管理、元数据管理、数据开发管理等活动职能。

数据资产化管理的具体应用: ( 一 ) 数据模型管理。是指在信息系统设计 时,参考逻辑模型,使用标准化用语、单词 等数据要素设计数据模型,并在信息系统建 设和运行维护过程中,严格按照数据模型管 理制度,审核和管理新建和存量的数据模型。 ( 二 ) 数据标准管理。数据标准管理的目标 是通过制定和发布由数据利益相关方确认的 数据标准,结合制度约束、过程管控、技术 工具等手段,推动数据的标准化,进一步提 升数据质量。 ( 三 ) 数据质量管理。是指运用相关技术来 衡量、提高和确保数据质量的规划、实施与 控制等一系列活动。衡量数据质量的指标体 系包括完整性、规范性、一致性、准确性、 唯一性、及时性等。( 四 ) 主数据管理。主数据管理是一系列规 则、应用和技术,用以协调和管理与企业的 核心业务实体相关的系统记录数据。 ( 五 ) 数据安全管理。是指在组织数据安全 战略的指导下,为确保数据处于有效保护和 合法利用的状态,多个部门协作实施的一系 列活动集合。包括建立组织数据安全治理团 队,制定数据安全相关制度规范,构建数据 安全技术体系,建设数据安全人才梯队等。 ( 六 ) 元数据管理。元数据管理是数据资产 管理的重要基础,是为获得高质量的、整合 的元数据而进行的规划、实施与控制行为。

参考报告

制造业数据治理白皮书2022版(新).pdf

制造业数据治理白皮书2022版(新)软通动力信息技术(集团)股份有限公司(以下简称“软通动力”)是中国领先的软件与信息技术服务商,致力于成为具有全球影响力的数字技术服务领导企业,企业数字化转型可信赖合作伙伴。2005年,公司成立于北京,坚持扎根中国,服务全球市场。目前,在全球40余个城市设有近百个分支机构和超过20个全球交付中心,员工90000余人。秉承用数字技术提升客户价值的使命,软通动力长期提供软件与数字技术服务和数字化运营服务,其中软件与数字技术服务包括咨询与解决方案、数字技术服务和通用技术服务;凭借深厚的行业积累,公司在10余个重要行业服务超过1000家国内外客...

查看详情
相关报告
我来回答