Supermicro 通过业界领先的全新系统产品组合,将前沿 AI 性能推向边缘计算环境
Supermicro, Inc.作为 AI、云端、存储和 5G/边缘领域的全方位 IT 解决方案制造商,正在扩展其 AI 解决方案产品组合,让客户在公共空间、零售商店或工业基础架构等边缘位置能有效运用 AI 的强大性能。通过使用搭载 NVIDIA GPU 的 Supermicro 应用优化服务器,可更轻松地微调预训练模型(Pre-trained Model)及将 AI 推论解决方案部署在产生数据的边缘端,进而缩短响应时间与改善决策。
Supermicro 总裁兼首席执行官梁见后(Charles Liang)表示:"Supermicro 拥有最多元的边缘 AI 解决方案产品组合,能支持客户用于边缘环境的预训练模型。Supermicro Hyper-E 服务器搭载两个第五代 Intel® Xeon®处理器并支持最多三个 NVIDIA H100 Tensor Core GPU,能为边缘 AI 提供优异的性能。借由这些具有最高 8TB 内存的服务器,我们能将数据中心的 AI 处理性能带至边缘位置。随着企业通过在边缘端处理 AI 数据来建立竞争优势,Supermicro 也将继续为行业提供优化解决方案。"
通过这些服务器的优化与升级,用户不再需要将数据传回云端进行处理,只需必要时把信息撷取回边缘端即可。同时,客户现在可以使用预先训练且性能优化后的大语言模型(LLM),并通过 NVIDIA AI Enterprise 在其边缘位置使用,以便在靠近数据生成端进行实时、精准的决策。
NVIDIA 合作伙伴联盟副总裁 Kevin Connors 表示:"越来越多来自医疗、零售、制造和汽车等领域的企业有意在边缘端运用 AI 技术。Supermicro 的全新 NVIDIA 认证系统由 NVIDIA AI 平台驱动,提供了最高性能的加速计算基础架构,并通过 NVIDIA AI Enterprise 软件协助运行边缘 AI 工作负载。"
例如,Supermicro 的 Hyper-E 服务器 SYS-221HE 系列便针对边缘训练和推理进行了优化,而其具备短机身与前置 I/O 设计的系统机型搭载了双路 CPU。此系统最多容纳三个双宽 NVIDIA Tensor Core GPU,包括 NVIDIA H100、A10、L40S、A40 和 A2 GPU。这些 GPU 为 Supermicro Hyper-E 提供足够的计算能力,可在收集、分析和存储资料的边缘端处理 AI 工作负载。Supermicro SYS-221HE 也提供前置或后置维护选项,使该服务器可被安装在各种环境内。包括 Eviden 等合作伙伴正在打造边缘 AI 解决方案,进而改善传统零售商店内的客户体验,这些都是 Supermicro Hyper-E 服务器的性能和灵活性可被运用的案例。
Supermicro 的先进边缘服务器还包括:
Supermicro SYS-621C-TNR12R(CloudDC 系列)是一款适用于云端数据中心的一体成型机柜式平台。这款紧凑型 2U 系统能在其 25.5 吋机箱内支持最多两个双宽 GPU 和 4 至 12 个 SATA/SAS 硬盘槽。这些硬盘槽可选择性搭配完整 NVMe 支持。
Supermicro SYS-111E-FWTR 是一款高密度边缘系统。该系统高度为 1U,并搭载第五代 Intel Xeon 处理器和两个 PCIe 5.0 x16 FHFL 插槽,非常适合用于各种网络和边缘应用。
紧凑型 Supermicro SYS-E403-13E 可搭载第五代 Intel Xeon 处理器和最多三个 NVIDIA GPU,并通过其 Box PC 机型规格提供数据中心等级的性能。该系统的紧凑机体设计使其能被部署在狭小空间内,例如壁挂式机柜中,或作为便携设备使用。
超短机身 SYS-211E-FRN2T 的系统深度为 300mm,专为空间有限的网络边缘环境所设计。该系统可搭载最高第五代 Intel Xeon 处理器,并提供 AC 或 DC 电源设计选项。
SYS-211SE-31D/A 作为强大且多功能的 SuperEdge 系统之一,是具有三个独立节点的多节点系统。此系统每个节点均具有第五代 Intel Xeon 处理器、三个 PCIe 5.0 x16 插槽和最高 2TB 的 DDR5 内存。这款 2U 系统不但具有前置 I/O 和较广的运行温度范围,其短机身设计更是非常适合数据中心外部的部署。
SYS-E300-13AD 是一款紧凑型物联网服务器。该服务器搭载第 13 代 Intel Core 处理器,机型尺寸仅 265x226mm,是能容纳 NVIDIA GPU 的最小系统,十分适合为边缘端提供分布式 AI 性能。
版权声明: 本文为 InfoQ 作者【财见】的原创文章。
原文链接:【http://xie.infoq.cn/article/09aeb1bec013ce42d87c62b5e】。
本文遵守【CC-BY 4.0】协议,转载请保留原文出处及本版权声明。
评论