DataWorks 重磅推出全新资源组 2.0,实现低成本灵活付费和动态平滑扩缩容
背景简介
DataWorks 资源组为 DataWorks 上的各个功能模块提供计算资源,属于付费服务。
![](https://static001.geekbang.org/infoq/ae/ae2417735dc76a7bd7946926e9de708a.png)
资源组属于 DataWorks 的基础组件,是客户正常使用 DataWorks 的前提。
资源组直接影响到相关功能是否正常运行,以及运行的效率和稳定性。
此前 DataWorks 资源组由公共数据集成资源组、公共调度资源组、独享数据集成资源组、独享调度资源组、独享数据服务资源组组成;导致相关概念繁多,计费逻辑复杂,用户使用不灵活等问题,因此催生了新版资源组,即通用型资源组。
所有 DataWorks 功能均可使用新版资源组,计费逻辑清晰简单。
![](https://static001.geekbang.org/infoq/ce/cebb4ddc1cd7aa18482e319f0996a290.png)
新版资源组最核心的特点——Serverless
广义定义:Serverless 强调的是一种架构理念和服务模型,所谓的“无服务器”并不是“没有服务器”,而指构建和运行不需要服务器管理的应用程序概念。它描述了一种更细粒度的部署模型,其中将应用程序打包为一个或多个功能,上传到平台,然后执行、扩展和计费,以响应当时确切的需求。—— CNCF WG-Serverless Whitepaper v1.0
调度任务:完全做到了 Serverless 化,只有按量付费
数据集成、数据计算、数据服务:支持按量付费;同时考虑到用户业务的特点和付费习惯,保留了较为优惠的包年包月形式
![](https://static001.geekbang.org/infoq/05/05d3687089bff9cce7524a0f6583dce4.png)
新版资源核心优势
通用型:不区分用途,DataWorks 任何能力都可以使用
付费形式灵活:支持按量和包年包月两种付费形式
支持运行中扩缩容:扩缩容时不影响已有任务的运行
支持扩缩容定时计划:可以根据业务运行规律,设置扩缩容计划,定时扩缩容,保障业务运行的同时最大限度减小开销
按需使用无浪费:用多少卖多少,避免无效的资源限制。最小购买粒度为 1CU
高隔离性安全保障:都是属于用户的独享资源,网络控制也完全由用户做主,提升了安全性和隔离性
![](https://static001.geekbang.org/infoq/b7/b7bcf54dc198ebfe31dbb87b4557095e.png)
低成本按量付费
DataWorks 新版资源组打破了传统按规格计费方式,采用全新计费方式,根据功能实际使用量计费。
![](https://static001.geekbang.org/infoq/80/80ee308abdb5529af6abedce5ca6358e.png)
计费案例某用户仅需在每日凌晨 DataWorks 将业务库 MySQL 数据同步至数仓 MaxCompute,启动 20 个同步任务,每个任务仅需 0.5CU,每个任务运行时间 1 小时。在此场景下,新资源组一天总费用 = 每个任务 CU 消耗*CU 单价= 10.0 元= 20 × 0.5 × 1 对应能力,此前最小需要购买 ECS 一台 4c8g 才可完成任务,ECS 4c8g 一个月费用 = 492.5 元,折合每天 16.4 元
动态扩缩容
用户无需费心进行容量规划,能满足当前需求的资源即可启动业务
在任务运行过程中根据业务流量波动,自由决定资源的增加或缩减
扩缩容过程平滑,业务请求无需中断
![](https://static001.geekbang.org/infoq/2d/2d6576368ff5d1c7573cec8cde626ac9.png)
新旧资源组对比
![](https://static001.geekbang.org/infoq/b2/b26c6626c2cd9a9c93a01484ec92d660.png)
新版资源组计费
计费方式分为预付费的资源组(包年包月)和后付费的资源组(按量付费),不支持互转。
![](https://static001.geekbang.org/infoq/1a/1aa382fa54642f500f6b12860bbc1134.png)
新版资源组各个任务类型的最低配置规格
![](https://intranetproxy.alipay.com/skylark/lark/0/2024/png/135256309/1718689458562-f7eabea6-a3f9-4650-b5ff-9d9748767c06.png#clientId=u41df43a8-5b39-4&height=304&id=ZtUUJ&originHeight=608&originWidth=1812&originalType=binary&ratio=1&rotation=0&showTitle=false&status=done&style=none&taskId=u2c2a9d68-1f1f-4dbd-98bd-287810ec0eb&title=&width=906)
新版资源组下数据计算的收费
定义:DataWorks 支持的各类型节点任务(例如,PyODPS、EMR Hive),一部分会下发至各引擎执行,另一部分直接在 DataWorks 的资源组上执行,任务代码执行时会占用一定计算资源。
下发至计算引擎的任务由对应计算引擎收取数据计算费用
在 DataWorks 新版资源组执行的任务将由 DataWorks 收取数据计算费用
通过如下方式在 DataWorks 新版资源组上运行数据计算任务,会产生相应计算费用:
数据开发:在数据开发(DataStudio)运行数据计算任务,任务代码执行将产生数据计算费用。
数据质量:若数据计算任务配置了数据质量校验规则,执行规则校验的 SQL 将产生数据计算费用。
数据分析:在数据分析运行数据计算任务。例如,执行 shell python 这类计算型任务,将产生数据计算费用。
运维中心:在运维中心运行数据计算任务。
更多详情,请参考新旧资源组的对比和使用文档:https://help.aliyun.com/zh/dataworks/user-guide/use-the-new-resource-group/
评论