写点什么

深入浅出 Flink CEP 丨如何通过 Flink SQL 作业动态更新 Flink CEP 作业

作者:袋鼠云数栈
  • 2024-12-19
    浙江
  • 本文字数:3264 字

    阅读完需:约 11 分钟

深入浅出Flink CEP丨如何通过Flink SQL作业动态更新Flink CEP作业

“只有决策快、公司运营快之后,公司才能实现降本增效”。

从北京到新疆、从中国到南非,从奥运会场馆的水泥混凝土到钱塘江畔拔地而起的高楼房产,无不存在着某大型国有集团的身影。


历经 60 多年沧桑巨变,该集团已发展成为以“新型绿色环保建材制造、贸易及服务,房地产开发经营、物业管理”为主业的市属大型国有控股产业集团和 A+H 整体上市公司,然而,该集团的实力与决心,远不限于此。


袋鼠云根据集团战略目标,助力其建设经营决策分析平台,确保经营决策数据与指标的完整性、准确性和一致性,实现海量数据的有效管理和集中存储,建立企业级的统一视图实现对数据的深入分析和挖掘,从而为高层管理和决策提供强有力的依据,为业务经营与分析提供有效的支撑。


一、数据难题:“大象难转身”


该集团旗下独资及控股公司 60 余家,八大系统,135 张 PBC 报表......随着发展扩充速度的加快,旗下公司和业务越来越多,集团内部层级增多、岗位分工更密,各个子公司、业务部门都在忙着做自己业务线的数据化,一个子公司就有一套系统,甚至发展到一种业务就有一套系统。


庞杂的数据散落在各个系统,由此形成的不同业务线之间的“数据孤岛”现象,造起的高大业务壁垒,极大的提升了集团管理的难度。


具体来说,集团数据没有按照具体业务场景进行梳理,导致集团无法进行数据资产化,看不到完整的数据地图;“数据孤岛”现象导致数据在底层之间不互通,没有统一的数据标准和质量,每一个指标只能反映集团某一方面的状况,导致整个指标体系不严密;各级单位财务工作量巨大,需要定期出大量报表,大量手工作业导致数据准确性、时效性受影响。


一个说起来有些“凡尔赛”的问题越来越成为类似这样的大型集团无法忽视的存在——“大象难转身”。


如果把数据的使用比作一场战争,除了要有好的士兵、大量粮草,更重要的是要有趁手的武器,数据中台就像是战争中的战斗武器,大型集团缺少的正是这个。 究竟如何高效利用沉淀在集团内部的大量数据,让它们发挥应有的价值,该集团找到了袋鼠云。


二、数据治理:降本增效的地基


面对集团内部盘根错节的数据,袋鼠云经过前期的细致调研,构建了“统一数据平台技术架构、统一数据分析体系、统一数据标准管理办法、搭建五大应用场景”的整体建设蓝图。


为了成功构建一个符合集团整体数据视角、满足多层次数据应用需求的体系,袋鼠云以统一的大数据平台作为核心技术支撑,确保主数据的完整性、一致性和准确性,推动集团内部的数据资源共享,并同时支持敏捷 BI、决策分析和综合运营管理等数据应用。希望通过建立这样一个能够适应集团未来 5 至 10 年深化应用需求的统一大数据管理和应用平台,全面提升集团的数据管理能力。



袋鼠云深入集团业务,通过“挖石油”的方式开始了这项大工程,重点解决了技术平台和数据管理两大问题:


1、技术平台


为了支撑该集团未来 3 至 5 年的数据应用拓展,搭建集团湖仓底座,统一规划和管理数据服务接口,确保所有数据需求都能通过单一接口实现。同时提供可视化、拖拽式自助开发与分析平台,简化数据应用的创建过程,统一数据开发流程,提高开发效率和质量,建设数据运维监控预警平台,为数据服务提供高质量保障。


2、数据管理


共创梳理业务场景,对数据资产进行统一规范管理,确保集团领导能够实现数据的可视、可知、可管。通过数据标准体系建设方法论结合数据指标系统,统一数据指标口径,消除数据的二义性。

具体而言,梳理并完成了涵盖人力、财务、战略、资产和运营五大领域的指标体系框架,构建集团总部 107 项核心运营指标,针对这些核心指标的数据盘点情况,提出针对性的质量治理措施。为了打通集团及其二级板块之间的数据壁垒,整合现有的 6 套系统的核心运营数据,建立了一个集团内部统一的运营数据体系。

如此便搞清楚了集团究竟有什么数据,有多少数据,又是哪些数据在“打架”,具体包含了哪些业务。彻底改变了之前数据指标混乱的情况,在各座“数据孤岛”之间建立起跨海大桥,保证了彼此的互联互通,大幅提升用数效率,让数据不仅能用,而且好用。


三、数据应用:数据驱动业务


只谈数据资产化,不谈业务场景,就好比石油开采好了,却没有汽车,是永远走不出下一步的。归根究底,进行数据治理的最终目的永远是赋能业务。数据中台提供的是底座能力,只有结合业务场景进行应用,才能真正驱动企业经营发展。


数据平台的成功搭建实现了集团内部数据的实时更新与高效处理。通过 BI 工具,现在能够提供即时、清晰且高效的数据展示,确保决策依据始终是最新的。通过统一的数据分析平台,数据报表的生成时间从原来的 5 天大幅缩短至 1 天,,极大提高内部数据流转效率。


“做报表的速度直观变快了,这一点相信大家都可以感受得到。”


一线业务人员这样说道。

同时,构建“人、财、物”为主的分析主题,提供 T+1 准实时数据运营分析能力,通过七大主题实时展现经营状况,为集团战略管控提供全域数据服务支撑。


1、驾驶舱/财务资金/资产/人资


从全局视角直观具体地看集团经营业绩、财务资金、资产状况、人资概况,是袋鼠云为集团专门打造的企业数字化作战室,对集团关键指标进行有效监控,聚焦过程管控,满足经营分析、业务监控、风险预警等多种业务的展示需求。


2、运营分析


结合集团战略目标,经营指标及上级控制指标,建立分析模型,对二级集团经营业绩进行全领域分析,采集七大二级板块,四家直营单位核心经营数据反馈,实现数据可视化展示,通过数据分析发现集团业务链条中的问题,层层追溯和挖掘找出原因,逐步加强业务数据的真实体现,面向集团一线运营工作人员,让大家看得清经营,抓得住客户。



数据辅助决策,打通了集团下属所有子公司和 12 套应用系统数据,打造集团数字化地图,为产业布局、战略决策提供新视角,建设战略驾驶舱,集团运营仪表盘,围绕集团业务和经营管理需求,提供运行监测、决策研判、行政问效、指挥调控、信息检索五大核心功能,实现数据实时获取、信息准确真实、指标口径一致,支撑集团一体化管控。


并且通过大屏、PC 端、手机端等多种终端方式呈现,只要有需要,集团领导层随时随地可查看到集团最新的经营情况和数据结果,为做出业务决策提供数据支持。


这些充满想象力的变化都正在集团内部发生,袋鼠云正在帮助整个企业寻找过往的经验管理无法达到的最优解。


四、总结


传统大型国有集团,看起来简单笨重,但在实际的工作中,业务链条其实非常长,涉及板块众多。在没有数据中台的时候,大型国有集团想要实现精细化管理,是很难的一件事情,许多数据在业务系统里面只有结果数据,珍贵的过程数据却丢失了。


这样的背景下,袋鼠云能做的最大价值就在于连接,连接数据前台和后台,突破数据局限,向上输送数据,向下赋能技术,真正起到”数据跨海大桥“的作用。


国有集团是中国经济的基石,理应在中国数字化转型的历史进程中担任探路者的角色,这既是应有的担当,同时也是国有集团突破自己壁垒的大好机会。


把数据变成良性资产,赋能业务,实现业务贯通,在所有的场景都能让中台落地,帮助企业让数据变现,盘活存量市场,盘活存量客户,这就是袋鼠云能为集团带来的实实在在的利益。


创新永远是勇敢者的游戏。在充斥着困难、挑战同时也有机遇的当下,袋鼠云将竭力贡献自己的力量,让更多企业看到数据的价值,向数据要红利,实现真正的数智化转型


《数据资产管理白皮书》下载地址https://www.dtstack.com/resources/1073/?src=szsm

《行业指标体系白皮书》下载地址https://www.dtstack.com/resources/1057/?src=szsm

《数据治理行业实践白皮书》下载地址https://www.dtstack.com/resources/1001/?src=szsm

《数栈 V6.0 产品白皮书》下载地址https://www.dtstack.com/resources/1004/?src=szsm

想了解或咨询更多有关袋鼠云大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:https://www.dtstack.com/?src=szsm

同时,欢迎对大数据开源项目有兴趣的同学加入「袋鼠云开源框架钉钉技术群」,交流最新开源技术信息,群号码:30537511,项目地址:https://github.com/DTStack

用户头像

还未添加个人签名 2021-05-06 加入

还未添加个人简介

评论

发布
暂无评论
深入浅出Flink CEP丨如何通过Flink SQL作业动态更新Flink CEP作业_袋鼠云数栈_InfoQ写作社区