写点什么

植根中国 服务中国 英特尔拥抱 AI 加速 AI PC 落地

作者:E科讯
  • 2023-11-08
    湖北
  • 本文字数:6721 字

    阅读完需:约 22 分钟

英特尔在这两年对于半导体技术的宣传仍然不遗余力:无论是半导体制造展望 1-2 年后的 Intel 18A 工艺,还是先进封装 hybrid bonding 互联间距缩减至 3μm 的未来技术,亦或更前沿的 2D 材料、神经拟态计算、量子计算......这些都算是其作为人们传统印象中芯片企业的常规。


今年 2 月举办的英特尔中国战略媒体沟通会上,英特尔将大量篇幅放在了软件上,并在各种活动中讲述英特尔在软件方面的努力。


9 至 10 月,英特尔开设了 6 场“大局观”系列媒体访谈:当然其中话题不仅限于软件。但这应该也是其为数不多地、如此积极地、系统性地对外传递,半导体技术之外的投入,从 AI、软件、生态、标准、战略等多角度,表达了现如今的所想所思。



这可能与时代浪潮有相当大的关系。首先,当加速计算变得越来越重要时,我们看到英特尔开始提倡 XPU 战略,而不再单纯强调 CPU——GPU、NPU、FPGA 等也变得很重要。这一点客观上带来的转变,即是软件和生态的投入:在加速计算世界里,英特尔也要积极搭建中间件与开发工具,让更多的开发者真正将 XPU 算力用起来,构建起自己的 XPU 生态。


第二点也很重要,即去年底今年初生成式 AI 引爆科技行业——很多人将其称作第四次科技革命。实际上 AI 的崛起,非常契合英特尔的 XPU 策略规划。但要在强敌环饲的时代背景下建立起 AI 生态,这又是个仅依赖芯片和半导体技术无法成行的故事。所以英特尔必须加快脚步,在维系固有优势的前提下,将注意力更多地放到软件、生态上来。


第三点或许与英特尔期望主动传达 ESG 文化相关:比如绿色 PC、人才培养。我们知道,ESG 涵盖了财务分析一般不会考虑的系列商业维度;它们只与公司长期业绩相关,却很难在中短期内获得显而易见的收益。所以这些也称得上是未来向的思路宣导了。


基于这三点来看英特尔发起的 6 场媒体访谈,起码从逻辑上更易于我们理解。所以,我们也大致总结了其 CCG 业务、乃至以 PC 为核心打造的周边生态,在这个时代里扮演的角色,及英特尔努力的方向。这也有助于我们更好地理解,未来的 PC 会是什么样。

 

尝试树立 PC 新标准


自 PC 兴起以来,英特尔一直是计算机领域内诸多标准或概念的制定、参与者。比如 USB、Wi-Fi、迅驰移动技术、超极本概念、Thunderbolt 连接技术、Evo 认证等等——当然本文只围绕 PC,实际英特尔参与的行业标准制定会比这些要更加宽泛,典型如 UCIe。此前英特尔 CEO Pat Gelsinger 就是 USB 技术的奠基人之一,他曾非常自豪地对自己的孙女说:“这东西叫 U 盘,是你爷爷发明的。”


而在最近这 6 场媒体访谈中,我们听得英特尔重点谈到有关新标准的其一是绿色 PC,其二是 Thunderbolt 5。



绿色 PC 是英特尔期望推行的下一个标准,英特尔公司中国区技术部总经理高宇甚至将其与历史上的 USB、迅驰技术并列。今年 2 月,英特尔在北京召开发布会,与清华同方、Acer 一起展示了绿色 PC。除了英特尔自家的处理器部分践行低功耗,及工厂对应低碳节能策略以外,“绿色 PC”要做到的是 PC 全生命周期的“绿色”。


我们在最近的进博会上,也看到了英特尔展示题为“从‘摇篮’回到‘摇篮’,全生命周期的可持续 PC 理念”,包括散热器、主板、机箱、电源、扩展、面板等组成部分的绿色践行方式——今年 8 月,英特尔组织的英特尔科技创新中心展示中,绿色 PC 内部主板的可回收 PCB 板材,主要成分包括金属铜、玻璃纤维、树脂及填充物,目标是将金属和玻璃纤维回收率提高到 95%,有机物回收率提升到 90%。



高宇说:“我们从整个生命周期的四个阶段(定义和设计、制造和交付、使用和维护、回收和循环)进行解构,去搞清楚每一个阶段有什么方法可以实现碳排放的降低。”“英特尔投入了相当的资源、人力物力,将每个阶段的技术研究透以后,形成端到端产品解决方案。”“比如强力推进高转换效率 ATX12VO 小型化无风扇电源”,还有“我们做的绿色控制中心,实现碳的可视化”,以及“我们和生益科技合作,他们研发应用可回收的 PCB”——是真正“第一个将可回收 PCB 做到了产业化的”。


与此同时,英特尔将成果和创意贡献给绿色计算机标准工作组,期望通过开放性的讨论,“形成产业认可的团体标准”,甚至未来“演化为强制标准”,“PC 必须要跟进的”。绿色计算机标准工作组是今年 4 月由中国电子学会成立的。9 月中,中国电子学会绿色计算机标准工作组第一次标准讨论会在深圳举行,包括中国电子学会、英特尔在内的几十家机构与企业做了分组探讨,包括标准构建的宏观视野,以及前文提到的贯穿全生命周期的绿色计算机总体评价、PCB 与电源三个方向,也包括绿色 PC 标准的准则逐条探讨。


高宇说,预期明年 4 月,系统评测标准、可回收 PCB 标准和电源标准就会推出 1.0 版;而且从当时的媒体报道来看,4 月还有望看到绿色一体机;虽然“符合标准的产品落地,时间上无法给出准确预估”。高宇也谈到,绿色 PC 本身不易成为产品卖点,因为用户并不能直接感受到差异。“我们要做的是唤起行业的重视,把口号变成行动”,因为“PC 总量巨大,中国商用 PC 保有量 1.6-1.9 亿台,70%是台式机”,这个量级的减碳与节能“是个天文数字”。


相较于绿色 PC 这个可能更为长远和未来向的标准,访谈会上提到即将在明年全面问世的 Thunderbolt 5 技术就无需赘言了,针对 Thunderbolt 5 的报道和剖析已经不少;而且 Thunderbolt 也已经是 PC 上的事实标准。其外在核心升级点包括视频传输最高 120Gbps 带宽,80Gbps 数据传输带宽,相比前代提升 2-3 倍;故此支持多台 8K 显示器连接,或三台 4K 144Hz 显示器;支持 PD3.1 供电,最高 240W 等......对创作者和游戏玩家有相当价值。



令人印象深刻的是,这次英特尔列出的 Thunderbolt 配件列表中出现了“外接 AI 加速器”。当然这本身并不稀奇,毕竟外置独显基于 PCIe Gen 4 在过去的 Thunderbolt 时代就完全行得通。而对于这里的外接 AI 加速器,英特尔是想特别强调借助 Thunderbolt 来提升 AI 算力,加速器可以是 NPU、FPGA 等芯片。“通过 PCIe 外接装置,在一些超薄笔记本上,提升 AI 算力”。

 

PC 正为拥抱 AI 做足准备


外接 AI 加速器的引入,自然能够增强音视频协作、提升 AI 创作与游戏性能,当然还有更强有力的本地 AI 推理。仿佛在生成式 AI 引爆新一轮热点以后,所有端侧市场参与者,从芯片到设备,从软件到解决方案,都在强调端侧必然要普及本地化的生成式 AI。所以就连 Thunderbolt 5 配件都得提一提 AI 加速。


不过实际上,近几个月英特尔对市场发出的信息始终是即便不带独显的轻薄本,也能跑生成式 AI。不单是未来的处理器新品会搭载 NPU 这类专用的加速器,还在于英特尔凭借当代酷睿 CPU 在多线程性能上的强势,以及在 AI 软件方面的努力,让轻薄本也能跑 LLM 和 Stable Diffusion,且支持 Llama2-3b, StarCoder-15.5b 这种参数规模的大语言模型。


所以藉由 12 代、13 代酷睿 CPU,无需连接网络,在本地推理 LLM——直接与大语言模型对话,或者让 Stable Diffusion 画图,都已经是手到擒来。而抛开 Xe 核显加速不谈,英特尔能够单纯借助轻薄本上的酷睿 CPU 跑生成式 AI,各种中间件、库、软件及生态方面的努力才是最为关键的。


即便英特尔借助于制造工艺改进,及 P-core + E-core 的异构核心设计方案,让 CPU 的并行计算能力近两年获得大幅提升,作为一种通用处理器,CPU 还是需要把大量晶体管堆砌在控制管线上。所以 CPU 相比加速器,在并行算力上有着先天的弱势。AI 计算,包括推理在内,就需求大规模并行计算能力。


这就会更加考验英特尔为实现 PC CPU 跑生成式 AI 所下的工夫。通常在 PC CPU 上推理生成式 AI 模型,需要经过模型转换、优化、量化等过程——这个过程应当是英特尔投入了大量时间和精力的,尤其是这大半年。其成果比如在今年的英特尔中国学术峰会上,英特尔院士、大数据技术全球 CTO 戴金权展示 BigDL-LLM 库——简化 PC 上的 LLM 推理,尤其做量化,用 Int4、Int3 这类低精度数据做推理,降低本地硬件资源需求。


英特尔软件和先进技术事业部副总裁兼中国区总经理谢晓清在媒体会上展示了英特尔平台上的 Windows 原生 AI 软件栈。这个简化了的框图,深蓝色部分是其在不同层级提供的软件。比较知名,且近期提名相当频繁的 OpenVINO 本身既是 IR 中间层表达——能够让不同的模型跑在不同类型的英特尔处理器上,同时它也是个模型优化工具。



谢晓清说,微软着力在推 ONNX(Open Neural Network Exchange)Runtime,这部分也得到了英特尔的优化。它“不仅能充分利用英特尔最新的指令集,同时也充分利用 PC 端的大小核架构,实现英特尔硬件对 Native AI 软件栈的充分加速”。加上英特尔面向开发者直接提供 Intel Neural Compressor 压缩工具,“使得大模型在终端更高效地运行”。


与此同时,英特尔还在推进 Web 平台的 AI 加速工作。“开发者按照原来的方式,借助标准的 Web API 来做开发,软件就可以应用英特尔硬件在 AI 方面的加速能力。”下图中的 Web API 这一层级内,WebAssembly 让一般应用跑在 CPU 上;WebGPU 则实现了 GPU 的加速——“我们刚刚完成了 WebGPU 标准化工作,在 Chrome, Edge 浏览器上实现了产品化”;



而 WebNN,能够让 AI 应用跑在各种处理器上,包括 CPU、GPU、NPU,虽然“新引入的 Web AI 标准化协议还在起草”,但英特尔给出的测试结果显示,MediaPipe 模型基于 WebNN 跑在 CPU 上,其性能表现已经与原生应用相近了——相比 WebAssembly 更是有着成倍的性能提升。如此 WebNN 也将“让 Web 开发者解锁 AIGC 的算力”,谢晓清表示。


这些应该还只是英特尔布局 AI PC 生态的其中一部分。英特尔公司副总裁、英特尔中国软件生态事业部总经理李映博士在媒体访谈中说:“我们认为 AIGC 这样一个新的、完全不同的生产力,或者说娱乐工具,一定会带来包括 PC 和数据中心在内的新的增长。”这几乎已经成为行业共识。 “从软件工具与资源的角度,英特尔也有超过 150 个适于 AI 工作负载的应用软件工具和资源。”


“几个月前,我们办了个针对开发者的 OpenVINO 竞赛。比赛中,来自不同行业和领域的开发者基于 OpenVINO 构建了不同的场景。比如说在应用领域用 OpenVINO 做机器视觉辩识,让工作场景更安全;还有在制造方面通过 AI CV,降低制造缺陷。”李映说,“所以除了在 PC 推理上,OpenVINO 在网络边缘会找到更多新的应用场景。”

 

软件的开源与开放


英特尔研究院副总裁、英特尔中国研究院院长宋继强在主题演讲中,总览了 AI on PC 应用,包括有 Intel Extension for PyTorch, Intel Extension for TensorFlow, oneDNN(oneAPI 内的深度神经网络库), oneMKL(借助 CPU 和 GPU,加速数学处理的函数库), OpenVINO 等。这些在我们过往的轻薄本跑 AI 体验中,多少都有接触过——借助其平台做 AI 和科学计算开发的开发者应该对此都不会陌生。


当然这些并非英特尔软件投入的全部。李映在此前的中国战略沟通会上就提过,英特尔有 19000 名软件工程师。这也是现如今芯片企业的普遍现状,软件团队庞大且不可或缺——就像前文提到的,XPU 战略决定了英特尔势必在软件上做更进一步的投入,因为这是串联起 XPU 的实现基础。


李映在这次的媒体访谈中,将英特尔正在做的软件分成了“三个层次”,包括基础软件、中间层软件,以及借助软件,和上层合作伙伴一起“带来新的业务模式”。


基础软件应当是指相对偏底层,“保证硬件发挥价值,完全释放硬件算力”的软件,“通过固件、电源管理、用户管理各个方面,让用户享受算力价值,也为上层应用和软件提供服务”。中间层软件,“比如通过数据库、框架等方式,为(上层)软件提供最直接的服务”,比如英特尔在“数据库、Java、开发语言上的投入”。


还有一类“与合作伙伴带来新的业务模式”,典型如与腾讯应用宝的合作,将 Android 应用生态带到 Intel x86 平台上——当然这其中实则涵盖了英特尔在中间层软件方面的努力,包括 Celadon 这样能让 Android 应用跑在其架构之上的容器和虚拟机里的项目,及 Intel Bridge Technology 作为 runtime post-compiler 让 Android 应用原生跑在 x86 平台上。另外相关的合作还包括诸如云、服务的不同模式。李映说这是“软件定义、硬件增强的战略合作方式”。


这些都是构建生态,同时为硬件服务的重要组成部分;也是英特尔期望在不止于 PC 领域,而在整个产业打造事实标准的方式。


不过就软件方面的努力,英特尔强调最多的还是“开放生态”和“开源战略”。这里举两个体现其软件“开源开放”的例子:从英特尔为开发者提供的 AI 软件来看,下面这张图是其在 AI 应用开发不同阶段,布局的技术。很显然英特尔总是尝试将自家技术与软件融入或整合到开源框架中的;



还有一个具体的例子是,原本针对自家不同 XPU 实现统一编程的 oneAPI,当前在英特尔的倡导下是在不同硬件环境、不同厂商架构中,在统一编程模型上提供支持。比如说 oneAPI for CUDA 让开发者用 oneAPI 面向英特尔与英伟达的处理器,使用统一工具链。在我们看来,这是当前加速计算时代格局下,英特尔要快速构建生态的必然。就像李映说的,“开源是很有利的方式,让开发者集中到平台上来”,但它的确也能体现开放的思路。


“到今天为止,英特尔已经参与了超过 700 多家基金会和标准组织”,“像是 Linux 基金会”;“我们有超过 7 万个全球专利资产评估,为整个产业,为合作伙伴和用户带来价值”。李映谈到,”根据我们自己的统计,也有超过 450 个以上的软件工具和资源,帮助开发者创造和开发自己的应用解决方案”,且绝大部分是“以开源、开放的形式共享的。”


“我们坚信,开放、开源才能让这个 IT 行业最好的技术得到发展,这是英特尔未来战略及中国战略中非常重要的组成部分。”虽然这并不是特别针对 PC 平台的,但这样的策略势必将影响未来很长一段时间 PC 平台的用户体验:比如平台引入 Android 应用,端侧的生成式 AI 就是个典型。

 

植根中国:引进来,走出去


最后值得一提的,虽与未来 PC 关联没有那么大,却也是贯穿了这几场媒体访谈的核心之一:植根中国,服务中国。包括李映反复强调英特尔在中国,“尤其开放开源生态中,我们一定会持续投入”——从今年初英特尔中国开源技术委员会的成立就看得出来。


今年初,英特尔公司高级副总裁、英特尔中国区董事长王锐谈到了 Intel China 2.0 时代的到来:“具体来说,就是更好地整合全球资源支持本地运营,更加针对本土驱动的创新展开更深入合作,为中国的产业伙伴提供更有利的支持。也就是说,我们秉持植根中国、服务中国的理念,推动共同发展。”


包括了垂直行业整合、建设开放生态、数字化与绿色化双转型,以及培养本土人才、社会公益事业、惠民服务等。其实从前文我们谈到 PC 未来的一些转变,多少都可以体现这几个战略。


从大方向来看,除了与本土企业、机构合作带来的市场价值,我们认为英特尔的中国战略大致上可以切分成引进来和走出去。引进来是指将英特尔在行业内的先进经验带到中国来。比如有关英特尔中国开源技术委员会的成立,李映就提到英特尔此前加入了诸多基金会和标准组织,其可以将运营经验以及合作模式,“引入到中国来,让中国开源组织未来的道路走得更加顺畅”。


还有像是在建设自家生态的过程中,英特尔面向中国的人才培养,从上世纪 90 年代就开展了大量教育和产学协同培养实践,包括英特尔中国学术大会、中国学术英才计划、奖学金项目、全国大学生电子设计竞赛,乃至走进中国偏远地区,通过“双师课堂”“送教下乡”等方式做技术普惠。


而走出去,则是基于与国内政府、企业、机构合作的推进,以及英特尔中国团队的研究成果,将技术与经验惠及全球。如绿色 PC 就是立足于中国的技术及标准实现;而走出去更为典型的例子,应该是英特尔中国研究院的技术输出。


宋继强说英特尔中国研究院“在促进中国产业升级、社会创新与数字经济不断发展的同时,也为全球智能计算的可持续发展贡献中国智慧”。英特尔中国研究院在诸多领域,就当代惠及全球的关键技术做出了不少重要贡献,比如前文提到 AI 软件及生态搭建相关的部分;再比如参与 5G 接入网研究——现在不少成为标准的 5G 网络架构与设计都有英特尔中国研究院的参与;还有 Thunderbolt、负责任的人工智能等技术研究输出。


即便扎根中国的理念与未来 PC 形态并无直接关联,英特尔的中国战略也正实实在在影响着 PC、边缘与网络、数据中心、加速计算乃至更多领域的未来发展。随着中国电子产业技术的持续进步,中国的技术创新也会持续辐射到世界及行业的方方面面。



2023 年是 PC 行业面临技术升级、技术竞争日益激烈的一年。这一年,PC 市场迎来了生成式 AI 这一技术热点;加速计算、异构集成也在 PC 领域变得愈发重要;PC 作为全球市场价值最高的消费电子产品类别之一,在提倡全球减碳、绿色能源的时代大背景,也正面临新标准的确立。英特尔这些问题上都做出了积极的回应。


我们从“大局观”系列媒体访谈看到的英特尔,早已不再是个单纯的芯片制造商,而是就硬件层面更加在意系统设计与上下游合作,持续树立新标准;软件层面建立开放开源生态,拥抱 AI 技术;垂直市场关注应用端、使用场景的需求变化,实时调整技术方向。这可能就是在面临时代变局时,当代芯片企业因此需要着眼的转变。


文章来源:电子工程专辑   https://www.eet-china.com/news/202311082130.html

用户头像

E科讯

关注

专注intel动态 2020-08-19 加入

搜罗各种Intel新闻

评论

发布
暂无评论
植根中国 服务中国 英特尔拥抱AI 加速AI PC落地_E科讯_InfoQ写作社区