聚焦大模型基础设施发展，AI Infra 组会在宁召开

人工智能产业发展联盟AIIA

 2024 年 06 月 27 日 18:42 北京

6 月 25 日上午，中国人工智能产业发展联盟 AI Infra 工作组第三次工作组会在南京召开。会议邀请了中国移动、腾讯、蚂蚁、中兴、新华三、百度、中国联通等二十余家企业的专家，研讨了边缘 AI 平台、大模型训练平台的标准，并基于 AI Infra 领域的技术发展趋势进行了深入交流。

中国人工智能产业发展联盟 AI Infra 工作组组长董昊汇报了工作组的工作进展和计划，2024 年将以大模型基础设施为主线，围绕 AI 软件平台、AI 算力和边缘 AI 等方向重点开展标准研制及技术研究工作。

在边缘 AI 方向，中国信通院人工智能研究所平台与工程化部工程师丁怡心介绍了《边缘人工智能平台技术要求和测试方法 第 1 部分：平台功能》的标准征求意见稿，旨在协同产业打造边缘 AI 软件平台统一规范。中国移动智慧家庭运营中心解决方案部副总经理贾倩提出边缘 AI 技术在落地智慧社区等场景中会遇到适配门槛高、算力分散、安全管控难等问题，产业正在探索算网共生、云仓赋能、算力调度、异构感知等技术来推动边缘 AI 技术的场景化应用。

在 AI 软件平台方向，中国信通院人工智能研究所平台与工程化部工程师刘星辰主持研讨了大模型平台开发训练的标准，旨在规范一套提升大模型训练效率、稳定性、易用性的平台标准。在研讨环节中，移动九天计算平台产品线 CEO 丛鹏宇博士提出了目前在预训练阶段正在探索渐进式的预训练策略；蚂蚁集团 AI Infra 团队资深技术专家沙剑提出了要通过模型调优、超参调优、性能调优和资源调优来提升大模型训练效率。腾讯资深标准专家李建慧提出腾讯正在针对低端卡算力、显存不足的问题，自研训练框架，以高效利用训练资源。

在 AI 算力方向，工作组正在研制大模型算力平台标准。中兴通讯数字技术产品架构总经理王健雄提出中兴正在通过异构 GPU 统一调度、多站点分布式高可用部署等技术来赋能大模型数智化转型。新华三智算解决方案架构师何宇锋分享了新华三通过异构融合、算力调度、算力运维等能力提供 AI 全场景的算力服务。

中国人工智能产业发展联盟 AI Infra 工作组将致力于推动大模型基础设施的高质量发展，通过技术研究、标准编制、政策研究等工作，促进供需对接和应用落地。工作组持续开放报名，欢迎有意向的企业扫描下方二维码报名。

业务联系人

刘老师 18610124860（微信同号）

liuxingchen@caict.ac.cn

-END-

AIIA 秘书处联系人

顾老师

 gutianyao@caict.ac.cn

黄老师 

huangxinxuan@caict.ac.cn