写点什么

首批通过!华为 FusionCube A3000 训推超融合一体机通过中国信通院可信 AI 大模型一体机产品全能力评估

  • 2024-09-18
    北京
  • 本文字数:1261 字

    阅读完需:约 4 分钟

可信AI评测

 2024 年 06 月 28 日 15:28 北京


随着人工智能领域的持续发展,尤其是大模型时代的到来,如何支撑多场景人工智能模型的研发和应用成为企业迫切需要解决的问题。大模型一体机涵盖了硬件资源、软件平台和大模型的软硬一体化能力、提供了“开箱即用”的使用体验,能够帮助企业快速、高效、稳定地落地大模型能力。为推动产业健康持续发展,中国信息通信研究院(以下简称“中国信通院”)人工智能研究所联合业界单位共同编制了可信 AI 大模型一体机功能标准。


2024 年 6 月,在中国信通院组织的首轮可信 AI 大模型一体机功能评估中,华为 FusionCube A3000 训/推超融合一体机顺利完成了可信 AI 大模型训推一体机功能评估,成为国内首批通过可信 AI 大模型训推一体机全功能评估的企业。可信 AI 大模型一体机评估依据《大模型一体机功能要求和测试方法》标准,共计 5 个能力域,20 个能力子域,100 余个能力项。评估重点关注硬件能力、资源池化能力、AI 软件平台能力、大模型应用能力和管理能力。



华为 FusionCube 训/推超融合一体机介绍

华为 FusionCube A3000 训/推超融合一体机,面向行业大模型训练/推理场景,针对百亿级模型应用打造系列能力。在大模型一体机产品能力评测过程中,FusionCube A3000 训/推超融合一体机的硬件能力、资源池化能力、AI 软件平台能力、大模型应用能力和管理能力均有优良现。



  • 硬件能力:集成 OceanStor A300 高性能存储节点、训/推节点、交换设备、AI 平台软件与管理运维软件,为大模型伙伴提供拎包入住式的部署体验,实现一站式交付;

  • 资源池化能力:通过智能调度平台和算力池化,实现 GPU 资源高效共享,将 GPU 利用率从 40%提升到 70%以上;

  • AI 软件平台能力:提供模块化 RAG 应用方案,支持灵活组装与编排和自动化评估,应用上线时间从月减少到天;

  • 大模型应用能力:提供轻量级框架,支持主流框架生态兼容,可编排复用 500+开源插件和应用,支持私域部署;

  • 管理能力:提供开箱即用、一站式管理能力。基于软硬件一键开局工具、开箱即用,4 小时即可完成部署。基于软硬件资源统一运维管理、故障点快速识别。


可信 AI 大模型一体机评估介绍

为客观、准确、及时跟踪大模型一体机发展态势,树立产业发展风向标,提升技术方先行示范影响力,协助应用方选取适配产品,中国信通院将持续开展可信 AI 大模型一体机评估工作,评估包括硬件能力、资源池化能力、AI 软件平台能力、大模型应用能力和管理能力五个部分,各部分评估范围如下:



评估联系人

靳老师 15910806929

jinzhen@caict.ac.cn


END


AI 工程化推进委员会

2017 年 10 月初,工业和信息化部正式批复中国信息通信研究院承建人工智能关键技术和评测工业和信息化部重点实验室(以下简称“部重点实验室”)。中国信通院为进一步推动我国人工智能的工程化进程,依托部重点实验室成立了 AI 工程化推进委员会。委员会聚焦人工智能开发工具和平台,AI 研发运营和管理,大模型应用,知识计算应用和 AI 数据集治理等技术方向,以产业活动、研究报告、标准和评估、最佳实践等手段,推动人工智能工程化相关的工具、系统、流程和治理体系的完善。企业单位申请链接:

https://mp.weixin.qq.com/s/nZ_ZkBtk18lRyHuCkGEqCg

用户头像

还未添加个人签名 2023-03-01 加入

还未添加个人简介

评论

发布
暂无评论
首批通过!华为FusionCube A3000训推超融合一体机通过中国信通院可信AI大模型一体机产品全能力评估_中国信通院AI Infra工作组_InfoQ写作社区