阿里云易立：以云原生之力，实现大模型时代基础设施能力跃升 | KubeCon 主论坛分享

今天，由云原生计算基金会 CNCF 主办的 KubeCon+CloudNativeCon+OpenSourceSummit China 2023 主论坛在上海举办。阿里云容器服务负责人易立在主论坛发表演讲，介绍阿里云为大模型提供的基础设施能力，以及通过云原生 AI 的方式助力大模型普惠提效。

易立在主论坛现场演讲

大模型无疑是 AI 领域最重要的进展之一，生成式 AI 的惊艳表现让关于下一代人工智能“魔力”的讨论进入街头巷尾，也让云计算的行业价值和技术核心迎来再次升级。易立认为， “规模”、“性能”和 “效率” 正在成为影响大模型生产和应用的三个核心因素，也是企业基础设施在面临生产、使用大模型时的全新挑战。“为了应对这些挑战，我们需要算法突破，也需要工程创新”，易立表示。

而解决规模、性能、效率的问题，需要与社区共同探索与突破。多年来，阿里云积极参与云原生社区生态建设，推动云原生 AI 应用更高效地运行在 Kubernetes 上，包括向 CNCF 捐献云原生数据集编排与加速项目 Fluid，以及 AI 工作负载管理框架 KubeDL 等；推动 Kubernetes Scheduler Framework 以更原生的方式支持 AI 工作负载。例如，OpenAI 在其大规模训练集群中使用了阿里云开源贡献的 Coscheduling 调度插件，大幅优化了资源分配效率。

易立介绍，“在支持企业大模型 AI 创新过程中我们发现，如何有效地管理 AI、大数据任务及其对异构算力资源的调度，是当前面临的新挑战。”

为了让企业以统一的方式支持微服务、大数据、AI 应用等多样化工作负载，阿里云开源了云原生调度系统 Koordinator。它是基于阿里巴巴大规模调度实践孵化出的开源 Kubernetes 调度器实现。在开源近 1 年半的时间里，Koordinator 已被小红书、小米、360、爱奇艺等多家企业应用于生产环境。“我们正在推进 Koordinator 捐赠到 CNCF 基金会，保持项目长期健康地发展。”易立介绍。

除了调度优化方面的工作，阿里云容器服务 ACK 和云原生 AI 套件构建了包含 GPU/NPU 高效运维、AI 作业管理、数据集访问加速、弹性训练与推理等完整的 AI 基础设施能力，在此之上既支撑了阿里云 PAI、灵骏智算、通义千问、妙鸭等 AI 平台与服务，也支持了多种开源 AI 框架和大模型方案。 这些产品化的技术能力已被广泛应用于任意门、小米、Recruit 等海内外企业，帮助客户快速构建自己的 AI 系统，显著提升 GPU 资源效率和 AI 工程效率。

此外，如何有效运用大模型，将 AIGC 技术在各行业落地，成为行业关注焦点。发展开源生态是降低大模型应用使用门槛、推动人工智能技术普惠的必由之路。

阿里云是开源的受益者，也是积极贡献者，此前阿里云公布全新的 1+4 开源战略，持续投入 AI、云原生、数据库、大数据、操作系统等领域的开源工作，持续提升开发者服务和企业创新支持，为开源创新提速。 易立表示：“开源社区就像一个神经网络，我们每个人都是其中一个神经元，紧密相连、互相协作。只有不断地连接、贡献、反馈，开源生态才能释放出无限的潜能与创新。”

当前，阿里云已经形成了基础设施即服务（IaaS）、平台即服务（PaaS）和模型即服务（MaaS）三层架构，可为企业提供从大模型训练到推理、服务的端到端解决方案。以模型为中心的开发范式已成为新趋势，而云计算是 AI 普及和普惠的最好选择。未来基于云计算技术，以基础大模型为底座，将会推动全行业智能化升级。

现场精彩速递 DAY2