大模型建设赋能再升级 大模型基础设施高质量发展研讨会圆满成功

为促进大模型更快、更好、更低成本的构建并落地赋能，4 月 8 日下午，中国人工智能产业发展联盟 AI Infra 工作组举办“大模型基础设施高质量发展专题研讨会”。会议邀请百度、阿里、腾讯、蚂蚁的专家带来了关于大模型基础设施的企业实践分享， AI Infra 工作组围绕“大模型基础设施”系列标准以及后续工作进行了介绍。本次会议汇聚金融、电信、互联网、能源等 10 余个行业的 40 余家企业、70 余位专家前来参会，大家共同就大模型基础设施的核心挑战、落地诉求、建设思路、实践路径等进行了热烈研讨。

中国信通院人工智能研究中心平台与工程化部曹峰主任在致辞中表示，随着大型模型时代的来临，AI 基础设施迎来了前所未有的挑战和机遇。倡导各企业携手合作，共同推动大模型基础设施的共识拉通、技术创新与产业升级。AI Infra 工作组组长董昊详细介绍了工作组在 2024 年的工作目标，将以硬件设施、软件设施为切入，围绕“大模型基础设施”的高质量构建和应用进行工作推进。

在大模型算力设施方向，工作组将面向大模型算力设施，研究如何打造高效率、高可靠、可扩展的大模型算力资源供给。本次会上，阿里云计算有限公司高级产品专家陈明俊就阿里云 PAI 灵骏智算平台如何从开发效率、计算效率、业务效率三方面，打造高效稳定的一站式 AI 开发平台进行分享。腾讯云异构计算专家产品经理王英就腾讯云 AI 超级底座的软硬自研，算力加速等技术，实现打破计算、网络、存储性能的“木桶”效应进行了交流。中国信通院人工智能研究中心平台与工程化部工程师靳震介绍了大模型硬件设施的标准框架，该标准期望从大模型算力设施的算力管理、算力调度和算力服务层面对各关键环节和核心技术进行全面的梳理与规范。

在大模型软件设施方向，工作组将以大模型软件平台为切入，研究如何构建高性能、高易用的软件设施。本次会上，蚂蚁平台技术事业群高级技术专家黄涤就大模型场景下的数据困境，以及如何提升数据质量、多样性、处理效率，实现系统化串联，构建大模型的数据闭环进行了实操分享。百度智能云 AI 中台产品架构师靳伟就大模型场景下如何构建高效、易用的训推平台，以及如何实现对工业、教育、政府、能源等行业的赋能，进行了云架构下大模型训练推理平台实践的主题分享。中国信通院人工智能研究中心平台与工程化部工程师丁欣卉、刘星辰、宇文梦柯分别就大模型数据处理平台、大模型训练平台、大模型推理平台进行了标准框架介绍与研讨，该系列标准期望从功能、性能、稳定性等构建层面，以及可扩展性、易用性等使用层面对各关键环节进行全面的梳理与规范。

最后，在场各位专家与工作组开展了充分探讨。移动、百度、阿里、腾讯、华为等副组长单位代表在讨论中提到未来可在大模型工程化落地、标准的产业指导等方向不断探索。蚂蚁、邮储银行、知网、建信金科等单位也纷纷就大模型基础设施交流了自身的诉求、思考与建议。

AIIA AI Infra 工作组在 2024 年将致力于推动大模型基础设施的高质量发展，通过技术研究、标准编制、政策研究等工作，促进供需对接和应用落地。工作组持续开放报名，欢迎有意向的企业扫描下方二维码报名。

联系人

刘老师 18610124860（微信同号）

liuxingchen@caict.ac.cn

宇老师 15650761587（微信同号）

yuwenmengke@caict.ac.cn

-END-

AIIA 秘书处联系人

顾老师

 gutianyao@caict.ac.cn

黄老师 

huangxinxuan@caict.ac.cn