写点什么

首批通过!中国移动(浙江)创新研究院九天信创一体机顺利通过中国信通院可信 AI 大模型一体机评估

  • 2024-09-18
    北京
  • 本文字数:1255 字

    阅读完需:约 4 分钟

可信AI评测

 2024 年 06 月 28 日 16:49 北京


随着人工智能领域的持续发展,尤其是大模型时代的到来,如何支撑多场景人工智能模型的研发和应用成为企业迫切需要解决的问题。大模型一体机涵盖了硬件资源、软件平台和大模型的软硬一体化能力、提供了“开箱即用”的使用体验,能够帮助企业快速、高效、稳定地落地大模型能力。为推动产业健康持续发展,中国信息通信研究院(以下简称“中国信通院”)人工智能研究所联合业界单位共同编制了可信 AI 大模型一体机功能标准。


2024 年 6 月,在中国信通院组织的首轮可信 AI 大模型一体机功能评估中,中国移动(浙江)创新研究院九天信创一体机顺利完成了可信 AI 大模型推理一体机功能评估,成为国内首批通过可信 AI 大模型推理一体机功能评估的企业。可信 AI 大模型推理一体机评估依据《大模型一体机功能要求和测试方法》标准,共计 5 个能力域,20 个能力子域,40 余个能力项。评估重点关注硬件能力、资源池化能力、AI 软件平台能力、大模型应用能力和管理能力。



移动创新院九天信创一体机介绍

九天超融合信创一体机是中国移动为了打通大模型应用落地最后一公里而研发的一款边端智算产品,基于一体机算力底座和 AI 赋能工具,探索出“一体机+行业大模型”的 AI 服务新模式。该产品采用软硬一体化设计,搭载中国移动自主研发的九天 139 亿参数语言大模型以及面向垂直行业的 10 亿级参数视觉大模型,可大幅缩短企业大模型应用开发周期。在硬件上,整合通用算力、AI 算力、存储、网络、安全资源五维一体,无须自建机房,市电快捷部署,同时边端私有化部署保障了数据隐私安全。为响应国家对关键核心技术自主可控的要求,并满足不同用户对多样化算力的需求,该一体机产品在硬件上采用异构算力同框混插设计,兼容国内外算力芯片生态;在软件上搭载由中国移动自主打造的集信创一键迁移、模型一键部署、推理加速功能于一体的可视化平台,深度优化 10 余个专用模型算子,业务效率提升 150%-200%,切实解决信创算力“不愿用、不好用”的产业难题,有效助力大模型应用的信创落地。



可信 AI 大模型一体机评估介绍

为客观、准确、及时跟踪大模型一体机发展态势,树立产业发展风向标,提升技术方先行示范影响力,协助应用方选取适配产品,中国信通院将持续开展可信 AI 大模型一体机评估工作,评估包括硬件能力、资源池化能力、AI 软件平台能力、大模型应用能力和管理能力五个部分,各部分评估范围如下:



评估联系人

靳老师 15910806929

jinzhen@caict.ac.cn


END


AI 工程化推进委员会

2017 年 10 月初,工业和信息化部正式批复中国信息通信研究院承建人工智能关键技术和评测工业和信息化部重点实验室(以下简称“部重点实验室”)。中国信通院为进一步推动我国人工智能的工程化进程,依托部重点实验室成立了 AI 工程化推进委员会。委员会聚焦人工智能开发工具和平台,AI 研发运营和管理,大模型应用,知识计算应用和 AI 数据集治理等技术方向,以产业活动、研究报告、标准和评估、最佳实践等手段,推动人工智能工程化相关的工具、系统、流程和治理体系的完善。企业单位申请链接:

https://mp.weixin.qq.com/s/nZ_ZkBtk18lRyHuCkGEqCg

用户头像

还未添加个人签名 2023-03-01 加入

还未添加个人简介

评论

发布
暂无评论
首批通过!中国移动(浙江)创新研究院九天信创一体机顺利通过中国信通院可信AI大模型一体机评估_中国信通院AI Infra工作组_InfoQ写作社区