中国 AI 长卷（二）：框架立基

2024-07-24
天津
本文字数：5654 字
阅读完需：约 19 分钟

2021 年正值科技摩擦之际，我采访到一位工业机械公司的技术负责人，向他问到：“制造领域有没有一些“卡脖子”的情况？”

他提到，“工业智能制造的核心要素，可以归纳为“三软三硬”。三软主要是指大数据、人工智能和工业软件，三硬主要是指核心装备、制造工具和材料。卡脖子这个问题，在各行各业各个领域都普遍存在”。

“反倒是深度学习框架，现在的情况还好，没有卡脖子。TensorFlow 是开源框架，虽然也是国外的，但目前还没有封闭，不过也不排除它后期还会封闭。这也是为什么我们公司选择国产深度学习框架，一是使用门槛更低，二是防患于未然。客观地说，国产框架离 TensorFlow 还有一定的差距，但这个差距在肉眼可见地缩小。”

从传统的深度学习模型时代，到方兴未艾的大模型时代，都离不开 AI 框架的平台化支撑，其重要性不亚于芯片。但和芯片不同的是，与大模型发展相适配的国产 AI 框架，基本实现了自保。

这是基础技术领域一个非常大的进步，也是中国为什么没有错过这一轮大模型 AI 热潮的原因之一。

2021-2024 的短短数年，从机器学习到大模型，新旧技术“沧海桑田”，科技行业风云变幻，但 AI 框架之于产业的重要性，却从未改变。

如果说，从信息化、数字化到智能化的漫长进程，就像鱼类走向陆地的进化变迁，那么 AI 框架，就处于算力层与应用层的中间地带，犹如海洋与陆地之间的那道“海岸”，支撑着各行各业与智能浪潮的交融。

那么，究竟什么是大模型所需要的 AI 框架？AI 框架是如何满足产业链需求的？国产 AI 框架与海外框架的差距或差异又在哪里？

本文就让我们深入 AI 产业链的中枢地带，沿着 AI 框架的“海岸”一探究竟。

鱼要经由海岸，进化成两栖动物，适应陆地，才能具备在新环境的生存能力，拓宽种群的边界。同理，AI 模型从训练到推理的全流程落地，开发者也需要一种基础设施作为助力，这就是 AI 框架。

一个底层 AI 框架，至少具备几个特质：

1.通用性。AI 框架作为基础设施，广泛覆盖各类模型，同时简化了 AI 开发过程，对多种算法进行模块化封装，让开发者不需要“重复造轮子”，可以快速搭建 AI 模型。比如对多元异构计算硬件的适配兼容，支持大分发多类型任务调度的分布式能力，核心算子库等，是开发各类算法模型都需要的，都要在框架层去解决。

2.全流程。AI 框架集成了模型开发所需要的工具，为开发人员提供全流程的开发环境。具体来说，训练、调优、测试和部署的一整个标准化流程中，所需要的相应组件，都能够在一个平台获得，进行全流程的项目提升，高效满足各类场景的定制化建构需求。

3.生态化。从产业链全局来看，AI 框架下接芯片，上承应用，是芯片厂商、应用开发者、软件服务商等多个行业主体都汇聚的中枢地带，形成了非常关键的 AI 生态系统。拥有一个集聚产业链的自研 AI 框架，就如同拥有了一条生态丰富、自主可靠的海岸线，是一企乃至一国守住 AI 疆域的关键。

因此，当 ChatGPT 代表的大模型爆火之后，焦虑无处不在，“我们没有大语言模型怎么办？”“高端算力卡被禁了怎么办？”“基础软件卡脖子怎么办？”但同样至关重要的底层 AI 框架，却没有出现“什么时候才能有自己的框架”的焦虑。

试想一下，如果国计民生重点行业的大模型，建立在海外企业的框架上，开源许可证的断供风险、数据安全风险可想而知。幸好，国产 AI 框架，早就做好了准备。

目前，国际有两大主流 AI 框架 TensorFlow（谷歌）、PyTorch（Meta），而中国自研的 AI 框架，按照其厂商可以分为三类：

一是以百度为代表的 AI 头部科技企业推出的，如飞桨 paddlepaddle，基于先进模型和产业生态积累，布局 AI 框架，建立智能业务的体系化优势。

中国软件产业 40 年功勋人物、“国家卓越工程师”称号、百度 CTO 的王海峰，曾回忆文心一言的开发过程：2023 年要在算力需求爆发、供应紧缺的条件下，快速跟上 ChatGPT 的趋势，正是基于百度的深度学习框架飞桨 paddlepaddle，下游跟主流的芯片厂商做了适配，任何好的算力，我们都能用得起来，很快完成了大模型训练。

二是以华为云为代表的 AI 云服务厂商推出的，如昇思 mindspore，通过 AI 框架，在云基础设施和行业云用户之间搭建起桥梁，提供完整的云端大模型服务。

去年大模型的百花齐放，就是很多 ToB 企业和软件公司，利用华为云上的 AI 框架昇思 mindspore，以及盘古大模型、昇腾 AI 云服务等，支持国内各类开发者、服务商等结合行业应用场景，做出原创模型，支撑了国内多个领域训练并首发大模型，加速了大模型走向产业化的进程。

三是垂类 AI 服务商、研究者推出的深度学习框架，具备某些独特的技术特性或应用场景，比如旷视科技（Megvii）在计算机视觉领域的专长，使其 MegEngine 框架在图像处理任务上表现突出；清华大学计算机系推出的 Jittor，特别适合于研究和教育领域，便于快速实验和算法原型开发；腾讯优图的 NCNN 框架专为移动端和嵌入式设备优化，适合资源受限的环境或边缘计算；一流科技的 Oneflow，也是业内完整的深度学习框架类产品。

不同于英伟达基于芯片构建的软件生态体系，国产 AI 芯片厂商受限于产品规模，自研软件配套的应用范围比较有限，有待发育，就不详述了。

综上，面对大模型掀起的这一轮 AI 浪潮，海外框架平台生态蓬勃，起到了一个“海阔凭鱼跃”的作用。国产 AI 框架也没有缺席，为各行各业探索大模型，奠定了基础，汇聚了力量。

AI 框架之所以没有缺席，是中国产学界人士“板凳甘坐十年冷”，一点一滴地构筑而成的。这个过程，遵循了技术领域的“双漏斗”规律，是一个从扩散到收敛，从收敛到扩散的过程，其间经由开发者不断选择和淘汰，最终演化成了今日格局。

第一阶段：早期时期的扩散漏斗（Diversity Phase）

新技术出现的初期，由于技术尚未成熟，新的想法和产品层出不穷，市场和用户对于哪种技术会最终胜出存在很大的不确定性，因此会出现多样化的技术流派。

PC 操作系统、移动互联网 OS 都经历过百花齐放、多家争鸣的阶段，AI 框架也不例外。深度学习大行其道的时候，数据、算法和算力激增，工程复杂度提高，开发者非常需要减少“重复造轮子”，直接调用某些模型或工具，这时候各大厂商都开始将自研算法和工具封装为软件框架，供开发者使用，涌现出了 Theano、Caffe（伯克利大学）、Torch、DistBelief（谷歌，TensorFlow 前身）等多款框架。

同一时期，国内还没有互联网企业或科技公司做框架，部分高校在学术科研角度做了一些零散的工作。构建完整的深度学习框架，是 2013 年百度开始。因为很早就关注到深度学习技术，百度更早遇到了深度学习应用上的一些挑战，比如所有的算法从头写，开发效率低，经常出错；每个深度学习开发团队写的程序差异很大，模块无法复用，兼容性也不高，急需一个统一框架。于是 2013 年，百度开始在框架上投入。据了解，当时百度内部也是框架百花齐放，开发了多个深度学习框架，解决不同业务的不同问题。

值得注意的是，早在此时起，国内外的框架就已经显露出差异化的特质。以 Caffe、Torch 为代表的海外框架，更偏向于学术、工程师使用；以百度为代表的国內框架，从产业土壤上生长出来，一开始就很注重实用性、功能性、分布式训练、硬件优化等产业特性。

第二阶段：竞争时期的收敛漏斗（Consolidation Phase）

随着时间的推移，更主要是 AI 巨头如谷歌、Facebook、百度的优势框架相继开源，其他框架逐渐被淘汰、合并，多样化的框架格局开始向几家主导“收敛”。

2015 年开始，谷歌大脑宣布 TensorFlow 开源，2016 年百度飞桨宣布开源，2017 年 Meta 人工智能研究院（FAIR）宣布 PyTorch 开源。开发者逐渐集中到几个主导者生态中。

曾经的热点框架如 Theano、CNTK（微软）、Keras、Caffe2 都相继停止维护，或被主流框架收编，百度内部也开始将多款框架收敛为 paddlepaddle，并正式对外开源。

这一阶段，海内外并不“同此凉热”。

一方面，PyTorch 凭借极强的学术灵活性、易用性，迅速崛起，已经发布很快成为爆款，成为围剿谷歌“框架霸权”（TensorFlow 不兼容其他开发框架）的生力军。

另一方面，当时国内很多企业的 AI 意识还没有觉醒，以计算机视觉为代表的深度学习技术，很难满足产业落地的精度需求。因此，当海外 AI 巨头围绕框架“火星四溅”的时候，中国的深度学习框架依然是“冷板凳”，企业中只有百度一家在坚持做。

如果说，当时海外框架是因竞争而主动收敛，那国内框架就是因为遇冷而被动孤守。

第三阶段：摩擦时期的再生漏斗（Renewal Phase）

当主导框架不再适应时代需求，就会出现新的创新浪潮，导致技术的多样性再次增加。“TensorFlow、PyTorch 两分天下”的局面被改变，国产 AI 框架的创新再生大爆发，是在 2019-2020 左右，中美科技摩擦逐渐增多，需求侧和供给侧都发生了诸多变化。

从供给侧来看，海外框架爆出安全漏洞，而 AI 又涉及国计民生核心领域，供应链风险不得不重点考虑，自主可靠的国产框架成为必需，供给增多。这一阶段，国产 AI 框架进入加速发展期，除了飞桨 PaddlePaddle，华为、阿里巴巴、腾讯、旷视科技等产业界，以及清华萨血等学术界，也都相继推出了自研框架，丰富了国产框架的活力。

从需求侧来看，随着 AI 渗透率提升，中国各行各业的开发者需要中文框架，更贴合中国市场的工具与数据集，更符合中国开发者需求的社区生态，更能满足中国产业需求的 AI 平台。

有开发者曾提到过，偏底层的 TensorFlow，没有为开发者考虑到大量细碎问题；习惯了邮件沟通的海外平台社区，无法满足中文开发者实时交流、社群互动的本土化开发需求；需求分散、场景多样的国内中小企业，很少有技术人员，TensorFlow、PyTorch 纯开源框架不能提供成熟低门槛的解决方案，这种模式无法支撑 AI 广泛落地。

当前阶段：大模型时期的再收敛漏斗

AI 框架从深度学习到大模型阶段，从扩散到收敛再到扩散，技术革新与格局嬗变的背后，一条主线从未改变，那就是从学术到产业化，变得越来越易用、实用。对开发者和产业更友好，更具应用优势的框架，生态的吸引力更强，框架的生命力也就更长，最终从群雄逐鹿的赛场中厮杀出来，成为主导。

目前，源于中国产业实践的国产 AI 框架，也逐步收敛到更懂产业应用场景、更具技术先进性和生态规模优势的飞桨与昇思。

具体表现在，飞桨和文心一言，昇思与盘古大模型，与产业结合的广度和深度，已经超越了其他国产框架的生态规模。

同时，形成了全链路、低门槛的大模型服务能力，提供从算力、模型到应用、商业层的多元多层支持，凝聚更加广泛的开发者。

产业链角色的多样性与开放性也格外显著，与模厂、硬件厂商、应用开发者、软件企业、ISV 服务商等行业伙伴，都建立起了较好的相互赋能关系，构建起智能服务的产品结构体系。

进入大模型时代的新阶段，AI 基础设施的重要性，也被拔高到了前所未有的高度。

正如基础通用模型不可能人人都做，如果企业和科研机构无差别入场做基础模型，会造成算力人力的极大浪费，也会让使用者的精力分散在各种模型的试错上，无法快速凝聚到技术更强的模型上，框架也是类似的逻辑。

一个底层框架的技术优势、工具完整度、生态规模，需要长期积累、聚沙成塔，而基础软件又格外需要生态的发展和汇集。逐步收敛到飞桨、昇思等更具潜力和繁荣的产业化框架上，构筑 AI 战略底座，将是大势所趋。

如前所说，AI 框架是技术浪潮与产业大陆的连接地带，只有在一次次潮起潮落后，仍然坚守下来的平台，才能成为中国 AI 产业链的坚定守护者。

经由时间和市场的洗练，国产框架与海外框架的特性差异，也变得越来越清晰。而这，可以作为一个侧影，让我们看到中国 AI 的差异化亮点。

还记得 ChatGPT 横空出世之后，大家总能听到这样的言论，“中美 AI 差距有十年”“OpenAI 一心底层创新，中国 AI 还没长大就得出去赚钱”“百模大战是同质化的浪费资源”……

从 AI 框架可以看到，更强的产业化能力，本就是中国 AI 的底色，也是亮色。

基础能力上，以飞桨、昇思为代表的 AI 框架，在产业 AI 方面的实践更多、积累最早，理解也最为深刻，因此可以很好地支持 AI 模型开发与部署，让产业迅速、更大规模应用这些新技术。

举个例子，面向科研、强调学术研究灵活性的 PyTorch，对产业应用的推理部署需求，做得是比较薄弱的，而国产框架为大模型到产业铺设了一条高效通道。

飞桨很快上线了对大模型开发的功能支持，提供了一系列模型封装能力，加速大模型的产业化落地。昇思 MindSpore 提供了一整套高效、易用的大模型使能套件，形成了端到端的使能大模型开发能力。

通过 AI 框架，开发者与行业少走弯路，不重复造轮子，快速高效地把大模型用起来，这是中国的基座通用大模型快速跟进、行业大模型爆发的前提。

产品体系上，源于产业需求的国产 AI 框架，能力布局更加全面、细致，可以更好地满足产业落地 AI 大模型的实际需求。

纯开源的海外模型，常常会强调自己的技术有多厉害，有多强，对开发者就主打一个“野蛮生长”，这与其数字化水平、数字人才等都有直接关系。

然而中国企业的小、分散、需求长尾，决定了 AI 框架作为产业基础设施，是不能轻易“放养”的。

比如硬件适配，海外以英伟达为主导的硬件市场，也不像中国面临多元异构算力问题的巨大挑战。作为国产 AI 框架，必须进行软硬件结合的深度融合优化，做特别多的工程开发工作，来降低开发者的硬件适配成本。

再比如模型库。模型库不是深度学习框架核心的组成部分，底层框架厂商投入精力去打造更细分的模型，看起来好像是把精力分散到了外围一些无关紧要的东西上，而不是底层核心技术。但从产业应用的角度来看，中国存在大量企业，没有专门的研发人员能够使用核心框架，从头完成一个模型的自研工作，AI 也没有办法落在产业需求中。

利用框架平台的 AI 解决方案、模型和开发套件，进行微调改写，就能得到一个贴合场景的定制化模型，这更符合中国的产业实际。