《高质量大模型基础设施建设指南》编制正式启动

2024-06-14
北京
本文字数：1384 字
阅读完需：约 5 分钟

4 月 28 日，由中国信息通信研究院(以下简称“中国信通院”)和人工智能关键技术和应用评测工业和信息化部重点实验室主办的“人工智能+”高质量发展研讨会在北京举行。本次研讨会聚焦大模型落地实践，会上隆重举行了高质量大模型基础设施建设指南编制启动仪式。

一、大模型基础设施是支撑大模型落地的重要基石

随着大模型技术的飞速发展，模型参数量突破万亿级参数，训练数据量已达到 PB 量级，算力集群也增长到万卡级别，大模型技术全面推动底层基础设施的发展,对算力，存储和网络提出了更高的要求。当前人工智能基础设施普遍面临可用度低的问题，同等算力规模下，通过算存运协同可以提高基础设施可用度，实现大模型效率提升，能耗降低，提高可用度迫在眉睫。与此同时，大量的智能应用都构筑在大模型服务基础上，基础设施和大模型的服务可靠性直接影响着智能应用的服务质量，发展高质量大模型基础设施势在必行。

在这样的背景下，中国信通院依托中国人工智能产业发展联盟 AI Infra 工作组，深入研究大模型在硬件设施和软件设施方面的产业发展情况。目前，随着越来越多行业应用落地大模型技术，大模型基础设施的需求不断增加，模型的规模也在不断扩大。据相关咨询机构估算，到 2030 年全球人工智能基础设施的市场规模将达到 1510 亿美元，在 2024-2030 年间将以 24.2%的年复合增长率快速增长。谷歌、微软、Meta、科大讯飞、字节等国内外头部企业都在积极构建大规模大模型基础设施，以支持大模型业务落地。

二、多家携手高质量大模型基础设施建设启动

为更进一步梳理产业现状，促进大模型基础设施领域发展，中国信通院人工智能研究所聚焦大模型基础设施的可用性、稳定性、高效性正在推进研制大模型基础设施标准体系，会上正式启动了《高质量大模型基础设施建设指南》的编写工作。中国信通院人工智能研究所平台与工程化部高级业务主管董昊介绍了《高质量大模型基础设施建设指南》的工作情况。

该工作围绕大模型基础设施的现状、定义、特性、新型架构、存算运评价指标和最佳实践，旨在全面梳理大模型基础设施的发展现状、技术进展和存算运建设方式，助力企业搭建高可用、高性能、可扩展的大模型基础设施。

会上，“高质量大模型基础设施建设指南”编制工作正式启动。中国信通院与华为、中国移动、百度、腾讯等合作伙伴领导，共同参与启动仪式。

自 2021 年，中国信通院围绕人工智能基础设施领域开展体系化研究工作。软件设施方面，为推动提升 AI 开发落地全流程的功能、性能、稳定性，中国信通院面向通用软件平台、细分技术平台、应用软件平台立项了 3 项国际标准，发布了 1 项行业标准、10 项团体标准。硬件设施方面，为构建稳定、高效、易用的 AI 底层硬件支撑，中国信通院面向 AI 算力、大模型一体机、芯片领域，发布了 2 项团体标准。同时，牵头运营中国人工智能发展联盟 AI Infra 工作组。

未来，中国信通院将携手合作伙伴一道继续深耕高质量大模型基础设施建设研究，总结大模型基础设施的成功经验和优秀实践，打造大模型基础设施全产业链技术服务能力，形成高质量大模型基础设施建设指南，推动大模型基础设施建设高质量发展。

请有意向参与高质量大模型基础设施建设指南编制的单位可扫描下方二维码填写信息报名，截止时间为 2024 年 6 月 18 日，欢迎报名参与。