写点什么

大规模离散模型

0 人感兴趣 · 2 次引用

  • 最新
  • 推荐

PaddleBox:百度基于 GPU 的超大规模离散 DNN 模型训练解决方案

用户头像
百度Geek说
2022-11-01

本文介绍百度基于GPU的超大规模离散DNN训练框架PaddleBox。PaddleBox 打造了业界首个层次化GPU稀疏参数服务器,结合高效的流水线调度架构,以及多机多卡的分布式架构,支持单机10TB级/多机数十TB模型训练,具备低成本、高性能、高稳定、灵活易用的多重优势。

大规模离散模型_大规模离散模型技术文章_InfoQ写作社区