F5 搭载 NVIDIA BlueField-3 DPU 赋能加速 AI 应用交付
F5 全新智能代理 F5 BIG-IP Next for Kubernetes,搭载 NVIDIA BlueField-3 DPU,变革 AI 工作负载的应用交付
西雅图,2024 年 10 月 28 日 – F5(NASDAQ: FFIV)日前宣布推出 BIG-IP Next for Kubernetes,一项全新的创新 AI 应用交付和应用安全解决方案,旨在为服务提供商和大型企业提供集中控制点,以加速、保护和简化流入和流出大型人工智能(AI)基础设施的数据流量。
该解决方案利用高性能NVIDIA BlueField-3 DPU提升对大型 AI 部署至关重要的数据中心流量效率。通过对网络、流量管理和安全性的集成视图,客户将能够最大化数据中心资源的利用率,同时实现最佳的 AI 应用性能。这不仅提高了基础设施的效率,且实现了更快、更敏捷的 AI 推理,并可最终提供增强 AI 驱动的客户体验。
F5 BIG-IP Next for Kubernetes 是专门为 Kubernetes 环境设计的解决方案,并已在大型电信云和 5G 基础设施中得到验证。通过 BIG-IP Next for Kubernetes,该技术现可提供针对领先 AI 用例的定制化服务,例如推理、检索增强生成(RAG)以及无缝的数据管理和存储。与 NVIDIA BlueField-3 DPU 的集成最小化了硬件占用空间,实现了细粒度的多租户,同时实现能源消耗优化,并提供高性能的网络、安全和流量管理。
F5 与 NVIDIA 技术的集成将允许移动和固定线路电信服务提供商能够轻松过渡至云原生 Kubernetes 基础设施,以满足供应商日益增长的将服务功能适应至云原生网络功能(CNFs)模型的需求。F5 BIG-IP Next for Kubernetes 通过将数据密集型任务卸载至 BlueField-3 DPU,以释放 CPU 资源用于创收应用。该解决方案对于虚拟化 RAN(vRAN)或 MSO 的 DAA 以及核心网络中的 5G 尤为有益,并为未来释放 6G 通信潜力奠定基础。
专为高需求服务提供商和大型基础设施设计的 F5 BIG-IP Next for Kubernetes 可带来以下价值。
●简化云规模 AI 服务的交付:BIG-IP Next for Kubernetes 可与客户的前端网络无缝集成,显著降低延迟,同时提供高性能的负载均衡,以处理上亿参数 AI 模型及高达万亿次运维操作的海量数据需求。
●加强对 AI 部署的控制:该解决方案为现代 AI 网络提供了集中集成点,具有丰富的可观测性和细粒度信息。BIG-IP Next for Kubernetes 支持 HTTP 之外的多项 L7 协议,确保在极高性能下实现增强的入站和出站控制。
●保护全新 AI 环境:客户可完全自动化 AI 训练和推理端点发现和安全功能。BIG-IP Next for Kubernetes 还可将 AI 应用与针对性的威胁进行隔离,加强数据完整性和主权,同时解决现代 AI 环境中至关重要的加密能力。
F5 首席技术官和人工智能官 Kunal Anand 表示,“AI 的普及催生了对先进半导体和技术的空前需求。目前各大企业正在构建 AI 工厂,即为大规模训练 AI 模型及提供推理所需的强大处理能力而设计的高度优化环境,其速度惊人且具备最低延迟。而 F5 强大的应用交付和安全服务与 NVIDIA 的全栈加速计算形成了强大的生态系统。该集成解决方案覆盖从硬件加速层到应用界面的整个 AI 工作负载堆栈,为客户提供了增强的可观察性、精细化控制和性能优化。”
NVIDIA 人工智能网络和安全合作伙伴高级总监 Ash Bhalgat 表示,“服务提供商和企业需要加速计算,以安全高效地在大规模云上交付高性能的 AI 应用。NVIDIA 正在与 F5 合作加速 AI 应用交付,得以更好地确保由 BlueField-3 DPU 支持的峰值效率和无缝用户体验。”
IDC 计算系统研究实践部研究副总裁 Kuba Stolarski 表示, “实现 AI 的潜力需要比行业以往准备更多的数据处理能力。对于许多公司而言,部署尖端的 AI 需要大量的基础设施建设,然而这些建设往往十分复杂且昂贵,使得高效和安全的操作比以往任何时候都更加重要。F5 BIG-IP Next for Kubernetes 解决了大型 AI 基础设施的性能和安全问题。通过提供优化的流量管理,企业可在 AI 模型推理过程中获得更大的数据摄取性能和服务器利用率,这为 AI 应用用户带来了极大的客户体验提升。”
WWT 人工智能、应用及 API 安全解决方案全球实践经理 Todd Hathaway 表示,“随着 AI 工作负载的爆炸式增长,企业对可扩展、优化以及增强控制的 Kubernetes 流量管理需求激增。随着 F5 将 BIG-IP Next for Kubernetes 直接部署在 NVIDIA BlueField-3 DPU 上,这使得该项已得到验证的技术现可允许大规模 AI 部署在理想接入点。WWT 客户将能够得益于更大的数据摄取性能和 GPU 利用率,同时在推理过程中获得更好的用户体验,并获得战略控制点用于安全服务。借助 WTT 两家最具战略性的合作伙伴 F5 和 NVIDIA 的先进技术,我们得以进一步加强我们的全球网络安全使命,以提供卓越的数字安全。”
搭载 NVIDIA BlueField-3 DPU 的 F5 BIG-IP Next for Kubernetes 将于 2024 年 11 月上市。更多相关信息,请阅读 F5 的配套博客。
更多资源:
还未添加个人签名 2021-05-31 加入
还未添加个人简介
评论