Volcano 社区 v1.6.0 版本正式发布
本文分享自华为云社区《Volcano社区v1.6.0版本正式发布》,作者:云容器大未来。
近日,Volcano 社区 v1.6.0 版本正式发布。此次版本增加了弹性作业管理、基于真实负载的动态调度、 基于真实负载的重调度、Volcano Job 插件——MPI 等多个新特性。
Volcano 是业界首个云原生批量计算项目,于 2019 年 6 月在上海 KubeCon 正式开源,并在 2020 年 4 月成为 CNCF 官方项目。2022 年 4 月,Volcano 正式晋级为 CNCF 孵化项目。Volcano 社区开源以来,受到众多开发者、合作伙伴和用户的认可和支持。截止目前,累计有 400+全球开发者向项目贡献了代码。
Volcano v1.6.0 关键特性介绍
1.弹性作业调度
v1.6.0 版本新增了弹性作业的调度支持,配合 Volcano Job 或 Pytorch Job 的弹性作业管理,实现 AI 训练任务、大数据分析的加速,同时结合云上的 Spot instance 实现成本的缩减。
弹性作业允许 Job 的副本数在[min, max]范围弹性伸缩,其中 min 为 job 的 minAvailable,max 为 job 的副本数,弹性调度会优先为 minAvailable Pod 分配资源,保障每个应用的最小资源需求优先满足,如果有闲置资源,调度器会为 Elastic Pod 分配资源,加速计算进程。
资源紧张时,调度器优先抢占 Elastic Pod 实现缩容。同时调度器也会平衡不同优先级的弹性作业间的资源分配,如支持高优先级作业抢占低优先级作业的弹性副本部分的资源。
设计文档:https://github.com/volcano-sh/volcano/blob/master/docs/design/elastic-scheduler.md
Issue:https://github.com/volcano-sh/volcano/issues/1876
2.基于真实负载的动态调度。
当前的基于分配率的调度模式在一些场景下会带来各个节点资源使用率不均衡的现象,如部分节点高分配率、低使用率等。v1.6.0 版本中 Volcano 实现了和 Prometheus 的协同,借助 Prometheus 采集的集群节点负载数据进行调度决策,保证各个节点使用率最大程度均衡,同时允许用户配置节点 cpu,memory 的上限值,防止部分节点使用率过高导致节点异常。
调度策略配置样例如下:
设计文档:https://github.com/volcano-sh/volcano/blob/master/docs/design/usage-based-scheduling.md
Issue:https://github.com/volcano-sh/volcano/issues/1777
3.基于真实负载的重调度。
不合理的调度策略和作业生命周期的动态变化导致计算节点资源利用率不均衡,v1.6.0 版本增加了基于真实负载和用户自定义重调度策略,驱逐部分高负载节点中的负载至低负载节点,周期性检测所有节点真实负载。即基于实际资源利用率而不是请求资源重新计划 pod,支持定制配置的重新调度策略。
以上运行进一步平衡了各节点真实负载,提高集群资源利用率。
设计文档:https://github.com/volcano-sh/volcano/blob/master/docs/design/rescheduling.md
Issue:https://github.com/volcano-sh/volcano/issues/1777
4.Volcano 作业插件——MPI
使用 Volcano Job 可以运行 MPI 任务,Volcano 作业插件(即 svc,env 和 ssh 作业插件)也为 MPI 任务的 master 和 worker 自动配置了免密通信、环境变量注入等工作。
新版本提供了一种新的运行 MPI 任务的方式,进一步简化用户的配置,优化使用体验。用户无需熟悉 shell 语法、无需关心 master 和 worker 的通信问题、无需手动配置 ssh 认证,非常简洁优雅的就可以启动一个 MPI 任务。
配置文件样例:
设计文档:https://github.com/volcano-sh/volcano/blob/master/docs/design/distributed-framework-plugins.md
Issue:https://github.com/volcano-sh/volcano/pull/2194
相关链接:
Release note: https://github.com/volcano-sh/volcano/releases/tag/v1.6.0
Branch: https://github.com/volcano-sh/volcano/tree/release-1.6
深入了解 Volcano
Volcano 云原生批量计算项目主要用于 AI、大数据、基因、渲染等诸多高性能计算场景,对主流通用计算框架均有很好的支持。社区已吸引 2.6 万全球开发者,并获得 2.4k Star 和 550+ Fork,参与贡献企业包括华为、AWS、百度、腾讯、京东、小红书等。目前,Volcano 在人工智能、大数据、基因测序等海量数据计算和分析场景已得到快速应用,已完成对 Spark、Flink、Tensorflow、PyTorch、Argo、MindSpore、Paddlepaddle 、Kubeflow、MPI、Horovod、mxnet、KubeGene 等众多主流计算框架的支持,并构建起完善的上下游生态。
Volcano 官网:https://volcano.sh
Github : https://github.com/volcano-sh/volcano
版权声明: 本文为 InfoQ 作者【华为云开发者联盟】的原创文章。
原文链接:【http://xie.infoq.cn/article/45ac329b5b445cc5f541ff066】。文章转载请联系作者。
评论