“粤”见昇腾 | 昇腾 AI 开发者创享日·广东站圆满举办

6 月 29 日,昇腾 AI 开发者创享日·广东站在广州成功举办。本次活动汇聚人工智能领域顶尖人才,为开发者带来昇腾 AI 生态最新进展、案例实践应用及原生开发技术等分享,旨在凝聚开发者力量,共建全面开放的原生生态。

人工智能作为新一轮科技和产业变革的重要驱动力量,是打造新质生产力的重要引擎。昇腾 AI 作为全面智能化的根基,通过分层开放的方式,携手伙伴一起打造领先可靠的基础软硬件平台,使能百模千态,赋能千行万业,推动了产业生态的繁荣。至今,昇腾 AI 已发展开发者 300 多万,合作伙伴 1600 多家,解决方案认证 2900 多个。今年,昇腾全面启动原生开发,让模型性能更优异,让应用开发更高效,后续,昇腾将持续从原生开发套件、原生使能计划、原生人才培养三个方面加速昇腾原生生态构建。

生态应用成果落地 大咖共话昇腾 AI 创新实践

自 2019 年华为发布计算战略以来,昇腾通过一站式迁移工具,将应用快速地迁移到昇腾上来,消除生态壁垒,推进了昇腾在中国的快速部署,目前,已广泛服务于金融、电信、政府、互联网等主要行业的核心业务场景,正在支撑行业数字化的转型落地。

会上,来自业界的专家学者,围绕大语言模型的发展趋势、基于昇腾 AI 打造的平台及其应用落地等进行分享,共话昇腾 AI 创新实践。

复旦大学计算机学院教授,中国中文信息学会大模型专委会副主任邱锡鹏对大语言模型的发展历程进行了阐述,他认为大模型是通过语言来构建世界知识,而大语言模型的下一阶段目标是具身智能+世界模型,世界模型是一种能够模拟和理解环境的模型,并在此基础上进行决策和预测的人工智能系统,它是未来具身智能最重要的基座。邱锡鹏表示未来大语言模型将会演化到世界模型,需要进一步研究如何打造高效、安全、可信的基础模型及探索实用、多元、复杂的应用场景。

复旦大学计算机学院教授,中国中文信息学会大模型大搜索与生成专委会副主任邱锡鹏

华南理工大学计算机科学与工程学院教授陆璐介绍了基于异构算力平台并行加速与性能优化获得的技术成果,包括:仿真模型资源评估、算子库设计优化、HPL、HPL-AI 优化及多卡通信优化,通过上述能力,解决了鹏城实验室、广州琶洲实验室等项目的多个瓶颈点,使得系统能更好的满足产业需求,应用于行业场景中。

华南理工大学计算机科学与工程学院教授陆璐

佳都科技首席 AI 科学家王凯博士介绍,佳都深耕交通行业,发布了基于昇腾 AI 打造的知行交通行业大模型训推一体机和知行交通大模型 V2.0,目前,已在多个行业场景落地。其中,知行交通智能体可根据智能运维、应急管理等业务场景自主规划和反思,调用多种工具组合完成复杂任务。基于知行视觉大模型 TransCore-V 的智能视频分析一体机,部署在车站、线网系统,可全方位覆盖影响安全运营的各种异常行为场景,保障安全运营与乘客出行。基于知行多模态大模型 TransCore-M 的“佳翼云”AI 大模型一体柜,是业界首款专为交通行业视频智能应用场景设计的 AI 大模型一体柜产品,通过自然语言对话,解决复杂场景视觉语义搜索难题,满足不同场景对视频智能化的应用需求。知行时空决策的模型 TransCore-TS 融入到了华佳 MOS 地铁智慧大脑、站台门智慧运维系统、节能控制柜等产品中,在地铁线路客流预测、站台门异常检测、车站节能环控也实现了落地应用。

佳都科技首席人工智能科学家兼通用大模型研究中心主任王凯

昇腾原生开发技术解密 激发开发者原生动力

面向未来,基于昇腾的原生生态,能够开辟更大的产业空间,能持续不断的引领原生创新,而这离不开高效、易用的基础软硬件平台。为此,昇腾以异构计算架构 CANN、全场景 AI 框架昇思 MindSpore 和推理引擎 MindIE 为基础,基于一套架构,面向算子、模型和应用三个开发场景,对昇腾 AI 基础软件做了 6 大全栈升级。

会上,来自昇腾 AI 的技术专家们,围绕昇腾算子开发语言 Ascend 2.0 技术升级、昇腾原生支持 Pytorch 训练大模型、昇思 MindSpore 2.3 版本技术升级及昇腾大模型推理解决方案做了详细解读:

●面向算子开发,进一步开放 CANN,开放了 GE 图引擎、HCCL 集合通信库、更加完善的算子加速库及全新升级的 Ascend C 2.0,提供更多原生创新支持。全新升级的 Ascend C 2.0,提供 60 多个高阶 API,开发者可直接调用自主开发高性能算子。在通信优化上,通过通算融合和集合通信算法创新,实现通信效率提升 15%;在调优方面,推出多级指令流水线,快速识别性能优化点,能够帮助开发者将典型算子开发效率从两个月提升到两周。

●在 AI 框架能力上,昇思 MindSpore 提供多级编译的能力,同时支持静态图和动态图模式,兼顾模型的开发效率与执行性能,并通过 MindStudio 工具链,高效执行大模型的调试、调优,开发效率倍增。同时,进一步完善了昇腾对 PyTorch 生态兼容,PyTorch API 支持度已达 95%。为让开发者更好的在昇腾上使用业界主流的三方库,昇腾通过社区代码贡献的形式,原生支持 huggingFace 和 DeepSpeed 等社区的主流能力。

●面向推理应用开发,基于昇腾推理引擎 MindIE,可满足多种推理应用开发需求,提升推理开箱性能、降低应用部署门槛,加速大模型创新落地。通过大语言模型推理模型套件、并行推理 &通信计算融合、量化压缩、基于 Transformer 加速库的大模型推理、训练模型平滑迁移推理等在满足低时延的条件下,将推理的吞吐提升 6 倍,大大降低了推理成本。

为让广大开发者更深入、全面地了解昇腾 AI 基础软硬件原生开发技术知识及应用能力,当天下午同期举办了昇腾 AI 原生开发训练营大模型与应用开发、昇腾 AI 原生开发训练营算子开发、昇腾 AI 知识大比拼及昇腾 AI 开发应用案例分享四个分论坛,以此赋能开发者技术成长。在展区现场,开发者通过观摩前沿科技展示及实操互动体验,沉浸式体验“学-训-练-赛”全周期体系。

昇腾 AI 开发者创享日·广东站的成功举办,为开发者展现了前沿人工智能行业应用案例、昇腾 AI 原生开发技术以及丰富的学习成长资源,相信通过这次活动也将进一步促进广东本地的 AI 产业的持续蓬勃发展。人工智能产业正处于高速发展阶段,需要全产业链的协作与共同努力,未来昇腾 AI 将持续携手伙伴,加速推动人工智能走深向实!