高性能网络建设指南，《智算中心网络架构白皮书》开放下载

2023-08-02
北京
本文字数：956 字
阅读完需：约 3 分钟

所有具备前瞻视野的 CTO、技术负责人，都正在将目光聚焦在为公司建立起面向大模型时代的 AI 基础设施。大模型需要大规模高性能集群的支持，如何建设高性能网络是其中最为关键的一步。

高性能网络的成功落地，可以确保大模型用最短的时间训练出来，并节省大量费用。业务将在第一时间获得大模型的超能力加持。公司将和友商进一步拉大距离，将他们远远甩在身后，或者成功实现业务反超，占据市场领先定位。

不过，高性能网络 RDMA 和过去的传统网络 TCP/IP 截然不同，涉及技术选型、架构设计、系统运维、业务运营等全部环节。在其上线运营的整个流程中，各个环节都需要结合大模型业务的特性做充足的论证，处处小心。一旦踩坑，将导致巨额投资付之东流，业务也将被友商反超。

比如关于 RoCE 和 IB 的争论，他们的差别究竟是什么，选哪个方案才是最合适的。上层的大模型业务和既有传统业务是不一样的，这对下层的网络架构的设计有哪些不一样的要求。RDMA 的技术体系和传统网络也是不一样的，在传统网络的技术储备无法直接应用，技术团队应该如何运维。同时，高效率的运维和运营，是高性能网络能够持续服务业务的保障，过去传统网络的方法和经验没有太多参考价值，应该如何设计方案。

如果能够借鉴业界领先的技术积累和成熟的项目经验，并参考其他用户的实践经验，将使得自己快速落地的高性能网络变得不那么困难，以上问题都能够轻松解决。

一直以来百度智能云支持了不同参数规模的百度文心系列大模型的落地，并构建了目前国内云厂商规模最大的高性能网络集群。同时，在私有云环境成功为度小满等金融行业客户交付智算中心。

此次，百度智能云联合度小满推出的《智算中心网络架构白皮书》，基于度小满等客户侧的成功实践写成。白皮书创作团队由负责和参与了高性能网络落地的一线专家组成，内容覆盖了高性能网络建设的各个方面，比如 RoCE 和 IB 的详细技术对比、不同规模集群的架构选择、云平台上的可视化运维工具建设、多租户的运营方案设计等，为 CTO 和技术负责人提供全流程指导，让复杂的高性能网络建设变得简单。