写点什么

以夸娥千卡集群为底座,摩尔线程与无问芯穹联手开启千亿大模型服务新篇章

作者:Geek_2d6073
  • 2024-04-01
    湖北
  • 本文字数:1203 字

    阅读完需:约 4 分钟

3 月 31 日,无问芯穹 AI 算力优化论坛暨产品发布会在上海成功举办,重磅发布了“无穹 Infini-AI”大模型开发与服务平台,并宣布与国内 AI 芯片领军企业摩尔线程达成深度战略合作。这一强强联合旨在基于摩尔线程大模型智算千卡集群夸娥(KUAE),携手打造集高效算力、便捷调度、稳定运行于一体的全国产大模型算力服务和云端调度平台,为更多用户开展大模型开发、训练、运行、应用提供完整的交钥匙解决方案。

无穹 Infini-AI 大模型开发与服务平台是基于无问芯穹的智算云平台,针对生成式大模型的应用落地的多种场景需求,为应用开发者提供高性能、易上手、安全可靠的大模型服务,覆盖从大模型开发到大模型服务化部署的全流程。目前,无穹 Infini-AI 已支持了 Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3 闭源模型、Llama2、Qwen、Qwen1.5 等系列模型共 20 多个模型。



图注:无穹 Infini-AI 平台演示

当前,无穹 Infini-AI 与摩尔线程大模型智算千卡集群夸娥(KUAE)已顺利完成系统级融合适配,并完成了 LLama2-70B 大模型的训练测试。发布会现场演示了无穹 Infini-AI 如何灵活调用夸娥的集群能力以完成大模型的训练、微调与推理任务。



图注:摩尔线程联合创始人兼执行总裁王东、无问芯穹联合创始人兼 CEO 夏立雪作为双方代表进行了现场签约

摩尔线程是第一家接入无问芯穹并成功完成千卡级别大模型训练的国产 GPU 公司。无问芯穹联合创始人兼 CEO 夏立雪表示:“经验证,摩尔线程夸娥千卡智算集群在性能、稳定性、易用性和算力利用率上均有优异表现,可以为千亿参数级别大模型训练提供持续高效的高性能算力支持。”双方的合作是国产算力产业链上下游携手推动大模型落地应用的完美例证。

摩尔线程联合创始人兼执行总裁王东表示,“基于先进的 MUSA 架构,摩尔线程已建立了从芯片、板卡、集群到软件的全栈 AI 产品线。摩尔线程夸娥智算集群是以全功能 GPU 为底座、软硬一体化的全栈解决方案,凭借高兼容性、高稳定性、高扩展性等综合优势,我们致力于成为大模型训练坚实可靠的先进基础设施。”

无问芯穹依托行业领先且经过验证的 AI 计算优化能力与算力解决方案,追求大模型落地的极致能效。打造 “M 种模型” 和 “N 种芯片” 间的“M×N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署。链接上下游,共建 AGI 时代大模型基础设施,加速 AGI 落地千行百业。摩尔线程作为国内 AI 芯片领军企业,旨在为广泛的生态合作伙伴提供强大的 AI 计算加速能力,可充分赋能大模型 AIGC、数字孪生、物理仿真等场景,驱动各行业智能变革,致力于为新质生产力提供 AI 原动力。

基于此次战略合作,无问芯穹与摩尔线程将携手共进,开展更多适配与测试,推动国产大模型技术的快速发展与应用普及,为中国人工智能产业的蓬勃发展贡献力量。

+++

关于摩尔线程

摩尔线程智能科技(北京)有限责任公司是一家以全功能 GPU 芯片设计为主的集成电路高科技公司,能够为广泛的科技生态合作伙伴提供强大的计算加速能力,致力于打造为下一代互联网提供多元算力的元计算平台。

用户头像

Geek_2d6073

关注

还未添加个人签名 2021-12-22 加入

还未添加个人简介

评论

发布
暂无评论
以夸娥千卡集群为底座,摩尔线程与无问芯穹联手开启千亿大模型服务新篇章_Geek_2d6073_InfoQ写作社区