稳定的数据云平台如何炼成？奇点云解读“RAS”典型问题

从“看报表”到“数据分析结果直接投入运营”，数字化正在深入企业经营，数据系统正在成为核心生产系统。相应的，企业对“作业挂了”、“系统崩了”、“算不出来”的容忍度越来越低——只有足够稳定、可靠、专业的数据系统，才能及时满足业务的数据需求。

数据写花了，是数据平台不行，还是代码出了 bug？

任务失败了，是资源不够，还是调度有问题？

在不久前的 2023 StartDT Day 数智科技大会上，StartDT（奇点云）合伙人、CTO 地雷聚焦企业数据基础设施的稳定性，探讨了典型问题，并分享了 DataSimba 的相关实践。

 数据云平台 DataSimba 是奇点云的核心产品，具备跨平台、云原生、自主可控、数据安全的特性，从数据集成、数据研发、数据运维、数据治理到数据服务，围绕数据全生命周期提供能力。

但今天只讲一件事——企业级的稳定。

构建企业级稳定的数据基础设施，需要两方面的努力：数据开发团队建立软件工程的最佳实践，和一个专业可靠的数据云平台。

这就像驾驶员需要有培训、驾照，开车不能喝酒，车也要足够稳定、可靠、安全，有保障机制。这两者缺一不可。

本次发布，我们从企业级软件的“金标准”——“RAS”中分别挑选了几个典型问题，和大家分享。

*RAS，即 Reliability（可靠性）、Availability（可用性）、Serviceability（可服务性），可分别简单理解为要确保数据不丢失不错误，要确保系统的停机时间在 SLA 内，要确保系统有变时可运维可修复。

#1 可靠性典型问题：数据备份和迁移

「非必要，不用“两地三中心”」

常有客户问，要不要做“两地三中心”？大多数情况下，不用做。

其一，分布式存储的三副本技术，已经提供了单机房内 99.9999%以上的可靠性；

其二，数据平台类基建的集群规模大，数据量惊人。仅仅是跨机房 1:1 热备，就要高昂成本。

客户需要权衡风险（例如战争、天灾摧毁机房）和投入，综合评估备份策略。对于大多数客户而言，定期把关键数据导出冷备即可。

*两地三中心，即生产中心、同城容灾中心（数据同步复制）、异地容灾中心（数据异步复制）。能在基本不丢数据的情况下完成灾备应急切换，保持数据业务的连续性。

*冷备，在系统停机状态下进行，大规模数据及复杂系统更易于实现冷备，缺点是停机时间相对长，但也因此资源可控、成本更优；热备，在系统运行状态下同时进行，缺点是资源要求高（可能对系统性能产生影响），适合业务对恢复时间有极严格要求且资源充足的场景。

「大数据生产，必须有专业的作业调度和基线告警」

现代大数据引擎为了大幅提升吞吐，取消了事务锁。

这意味着数据开发团队必须有专业要求，避免两个作业同时往同一张表里写数据、造成数据损坏等情况。具体实践包括但不限于：

配置 Task（任务）调度，以确保不会出现 Job（作业）写入冲突；

配置基线告警，一旦 Job 执行过慢——意味着可能导致下一轮 Job 调度冲突，就应当自动告警，提醒数据运维及时干预。

*事务锁：一种用于管理并发访问数据的机制，在 OLTP（联机事务处理）系统中较为常见，防止多个事务对同一数据进行不一致的访问和修改。与 OLTP 需要处理大量交易性操作、注重事务处理速度不同，OLAP（联机分析处理）系统主要用于复杂的分析查询，更注重查询性能，允许一定程度的数据冗余，因此几乎不依赖传统的事务锁机制。

「大数据是有“重量”的」

大数据跨域迁移，有极高的复杂度——数据量大，作业量大，复制 PB 级的数据和数千个 Job 并不像个人电脑拷贝几个文件那样简单。

一般来说，脚本执行耗时数天，迁移后新旧系统并跑，验证数据准确性还需要 1 个月。因为在此期间，有很高概率会发现磁盘损坏等等问题，需要重补数据。

“‘搬家’有风险，迁移需谨慎。”

如果一定要跨域迁移，建议雇佣专业的团队，为数据迁移做保障。

针对上述 3 个问题，DataSimba 除了持续提升产品自身的可靠性，完善各项功能以便开发团队固化最佳实践，还分别提供：

l DataSimba 迁移发布助手，帮助客户完成数据定时导出、冷备；

l 数据开发陪跑包，和客户的数据开发团队一起开发 demo 并配置，协助客户逐步建立起大数据生产的研发底线；

l 迁移运维服务包，降低大数据跨域迁移风险，保障数据一致性、安全性及整体迁移效率。该项服务按数据量计费。

#2 可用性典型问题：防止线上生产故障

「数据生产应建立 CI/CD 体系」

“数据开发在生产系统上热改 SQL，写出笛卡尔积，导致生产崩溃，结果第二天老板看不到经营报表。”

这不是编故事，而是发生在企业客户的真实案例。奇点云的数据运维 On-call（值班）团队平均每周都会接到类似的“救火求援”。

大数据生产已不同以往，不再是“实验局”、“创新局”，而真正对日常业务运营产生影响。企业数据团队应当建立起 CI/CD 体系，来维护生产环境。

具体包括但不限于：设置测试环境，建立自动化测试、自动化发布流程。所有代码修改必须在测试环境通过验证后，由专人操作上线到生产环境。大部分程序员没有在生产环境修改或发布的权限。

「数据平台需要保证鲁棒性和可用性」

除了对“驾驶员”的数据工程规范要求，平台本身更应当保证鲁棒性和高可用性：

鲁棒性（Robust），即系统健壮性，可简单理解为承受故障和干扰的能力。即便在出现输入错误、故障、过载甚至攻击的情况下，平台也不会被“击垮”，能隔离故障，及时告警。

高可用，用大白话说，就是每个组件有多进程的 back-up（备份），能自动重启 failover（故障转移），其本质是用冗余硬件资源做热备，所以也存在一定的成本投入。

DataSimba 从上述六个维度加固稳定性

针对上述问题与场景，DataSimba 提供：

• DataSimba 迁移发布助手，支持与各种版本管理和持续集成的工具联用；

• 数据开发陪跑包，协助客户建立起自己的 CI/CD 流程；

• VIP 专属运维服务包，即原厂运维专家按规定在一定时间内为客户处理故障应急响应、备份管理、漏洞修复等问题；

• DataSimba 专业版及以上版本提供高可用部署方案，所有组件均可实现高可用，并已完成全面压力测试，可用性达到 99.95%。

#3 可服务性典型问题：建立平台的可观测性

建立平台可观测性体系，是很多数据团队的理想——从 Logs、Metrics、Traces 和 Meta 抓取系统状态，建立模型和指标，用数据驱动运维。“吃自己的狗粮”，有趣且很有价值。

其实这项能力（功能）在数据库领域叫做 Information Schema（直译为信息视图），一种标准的、系统元数据的查询接口，能帮助开发者快速了解系统结构，让系统更易于维护。

DataSimba 的 Schema 不仅提供系统元数据，还提供了多种数据模型（提炼自行业经典方法论及历年实践），帮助企业更便捷地建立可观测性体系，为智能运维、平台管理、数据治理等场景提质提效。

目前，包含以下 10 种模型：

例如，依托“运维巡检模型”，可监控底层硬件、操作系统、中间件、大数据组件及 SimbaOS 各个对象的时序状态，记录历史状态信息，定期生成运维巡检报告，并根据历史数据进行异常预测；

“作业健康诊断模型”则支持对 Hive、Spark、Flink 等不同类型的作业进行针对性建模，诊断数据作业失败、长尾、数据倾斜、资源浪费等数据生产问题和编程失误，给出潜在建议和改进建议。

如开篇所述，就像“好赛车”和“好车手”，构建企业级稳定的数据基础设施，离不开专业可靠的数据云平台，也需要数据开发团队建立并掌握数据工程的最佳实践。

为此，奇点云不仅提供安全、可靠的各档次“汽车”，即数据云平台 DataSimba，还提供各类培训、陪跑等服务包，和客户的数据团队一同，保障数据生产的稳定，构筑数据赋能业务的坚实基础。