昇腾+DeepSeek+博云科技

在 AI 浪潮与大模型落地需求的双重驱动下，博云携手江苏鲲鹏・昇腾生态创新中心，基于昇腾 AI 与 DeepSeek 大模型能力，重磅推出 DeepSeek 满血版一体机。该方案通过智能算力分配、集群网络优化、行业模型智能化训练等技术，为政务、金融、制造等行业提供「高精度、高可靠、高安全」的智能化转型方案。

软硬协同，自主创新

显存优化架构革新，突破行业 1TB 显存基线，实现 750GB 显存部署 DeepSeek-R1 671B 满血模型，支持大量用户并发流畅交互。

联合实验室专项优化

博云与江苏鲲鹏・昇腾生态创新中心共建联合实验室，针对 DeepSeek 模型开展算力定制优化，推理吞吐量提升。提供私有数据增量训练服务，模型迭代周期大大缩短。

方案详情

博云大模型一体机是基于昇腾搭建的 DeepSeek 满血版一体机。

该 DeepSeek 一体机方案采用了先进的硬件架构和技术配置，旨在提供强大的计算能力与灵活的系统管理功能。算力表现上，FP16 精度下的算力达到 2560TFLOPS，能够高效处理各类复杂的深度学习计算任务，为 AI 模型训练、推理等应用提供了坚实的算力支撑。

在硬件结构方面，采用 4U 机架式设计，风冷散热，确保设备在运行过程中能够有效散热，维持稳定的工作状态。硬件组成构建了一个性能强劲且具备高数据传输效率的计算集群。处理器增强了设备在图形处理、大规模数据并行计算等方面的能力，满足深度学习中对数据存储和快速处理的需求。足够的内存容量能够支持大规模数据的快速读取和处理，减少数据交换过程中的等待时间，提升整体计算效率。

接口丰富多样，高速网络接口支持高速稳定的数据传输，满足了大规模数据在网络中的快速交互需求，适应复杂的网络环境。博云 DeepSeek 一体机支持资源开通、任务调度、权限管理等功能，方便用户对系统资源进行管理和分配，保障系统运行的有序性和安全性。预置包含 DeepSeek、文心一言、stablediffusion 等模型，为用户提供了便捷的开发和应用基础，降低了开发门槛，加速了 AI 应用的落地。

产品特色

训推一体

内置 AI 训推平台 BMP，为开发者提供了从模型构建、训练到部署的全套工具链，支持专有模型的定制开发和基础大模型的精调优化。为企业和科研机构提供了强大的模型开发能力，促进 AI 技术的深入研究和应用创新。

1.提供可视化算法开发套件，支持将内部算法组件进行上传并编排使用

2.支持训练数据准备与模型训练，支持自动机器学习（autoML)，优化场景效果

3.接入业务应用、监控 API 稳定性，回流线上优化反馈持续优化

4.提供数据标注功能，支持图像分类、目标检测、图像分割、文本分类等场景。提供自动标注、多人协同标注、版本管理等功能，提升数据标注质量与效率

5.产品为满足用户通过 Web 端进行在线调试程序算法的需求，提供在线 IDE 能力

6.提供可视化模型训练作业创建能力

应用场景

案例分享——某农商行 AI 大模型算力一体机

建设目标：

建设大模型管理服务平台，实现大模型的微调、推理、管理、评估、服务等

·构建资源池，实现资源按需动态调配。

·统一的部署及运维，降低运维复杂度。

模型信息：

· 预置通义千问开源 7B/13B/72B、豆包 7B/13B 模型，适配客户自研 3B 大模型。

· 用于智能客服、知识库、OCR、NLP 等。

实现效果：

· 多模型管理：统一管理多个不同类型和尺寸的大模型和小模型

· 多卡管理：统一管理和分配卡

· 模型微调：基于行内私有数据进行模型微调训练，支持多卡微调，提升训练效率

· 模型部署：统一多模型部署上线流程，支持分布式推理和服务质量监测

未来，博云将持续深化与昇腾、DeepSeek 的技术协同，以全栈创新，助力中国 AI 产业高质量发展！