CPU 的“花招”已耍完？无指令集架构颠覆旧套路

2022 年 3 月 29 日
本文字数：7127 字
阅读完需：约 23 分钟

日前，英伟达在 GTC 大会上发布了最新一代 GPU H100，采用台积电 4nm 工艺，集成了 800 亿个晶体管。3 月初，苹果发布了 M1 Ultra 芯片，更是集成了高达 1140 亿个晶体管。显然，头部厂商都在推进现有芯片设计和制造技术的极限，但问题是，当这些“花招”用完后怎么办？

在面向 AI 负载的新锐芯片创业企业里，SambaNova 和Tenstorrent都足够引人注目，他们都可以视作为数据流架构专门设计的软硬件系统。据公开资料，他们都十分强调编译器软件的重要性，虽然硬件是重配置的，但重配置方案却是编译器完成的，其中最核心的问题是解决 placement 和 routing 问题，看上去他们都解决得不错。

其实，在这两家企业之前已经有“先烈”公司 Wave Computing 走过这条路，但不幸没有走通。其实所有这些努力背后可以追溯到VLIW。Wave Computing 破产之后，CEO Peter Foley 东山再起，在 Ascenium 公司继续向 VLIW 架构冲锋，看上去他信心满满，的确该到通关的境地了。

作者｜Timothy Prickett Morgan

翻译｜刘晓祯、张雨珊、胡燕君、徐晨阳、沈佳丽、周亚坤

在任何架构中总有一些必不可少的、基础性的且毋庸置疑的功能。直到某个聪明的架构设计师出现，才告诉我们情况并非如此。建筑物和桥梁是这样，系统及其处理器同样也是如此。这就是为什么我们用同一个词“架构设计师”来描述设计宏观和微观结构的人。

Ascenium 公司的联合创始人兼 CEO Peter Foley 就是这样一位架构师，该公司刚刚在 2021 年 A 轮融资中筹集到 1600 万美元。Foley 和他带领的 Ascenium 团队想摒弃现代 CPU 中的很多架构，从头开始开发 Foley 所谓的由软件定义的、可连续重配置的处理器。Foley 说，之所以有必要拆解处理器，再以一种全然不同的新方式构建它，是因为当前 CPU 的架构技巧已经用完了。

先介绍下 Foley，再谈 Ascenium 公司正在开发的 Aptos 处理器架构，以及它将如何撼动 CPU 市场。

Foley 涉猎广泛、见识极深，这使他走到了今天这一步。他先在莱斯大学获得了电子工程学士学位，之后在加州大学伯克利分校获得硕士学位。在伯克利时，Foley 与 David Patterson（Google Brain 团队成员）和 Alvin Despain（美国电气工程师，曾任 Acorn Technologies 联合创始人兼 CTO）一起用 Smalltalk 语言做 RISC（SOAR）芯片项目。

毕业后，Foley 加入苹果公司开始研发 Mac 和 Mac II 电脑中的各种芯片，1987 年，他成为研发“牛顿个人数字助理机（PDA）”的四个原始成员之一。PDA 是 iPad 平板电脑的前身，但当时还没人知道。值得一提的是，Foley 负责开发用于 PAD 的“Hobbit”处理器。离开苹果后，他加入了第三方 GPU 供应商 SuperMac，之后在 Chromatic Research 公司开发可编程的 VLIW 和 SIMD 媒体处理加速器。

Foley 在风投公司 Benchmark Capital 做了一段时间的入驻企业家，然后创立了 nBand Communications，并创造了软件定义的宽带无线广播（类似于 WiMAX，而不是 5G，说实话，在多数地方这更像是 4.1G）。

然后，他在 Predicant Biosciences 公司做了近四年的工程副总裁，该公司开发了用于扫描血液蛋白中是否有癌症的诊断设备。之后，他在风投公司 Tallwood 做了近四年的驻校执行官。

经历这一切之后，特别是在 2009 年 12 月，Foley 意识到加速计算前景黯淡，就成立了人工智能芯片创业公司 Wave Computing 并担任 CEO。值得注意的是，Foley 离开了 Wave Computing，数年间，这家公司通过复杂的交易把技术授权给中国企业，还收购了 MIPS 芯片公司。而 MIPS 芯片公司自从硅图公司（SGI, Silicon Graphics）十几年前将其分离出来之后，就在不停被转手。最后，Wave Computing 在 2020 年 4 月不得不申请破产重组。

准确来说，Foley 是在 2016 年 6 月离开的 Wave Computing，并开始经营自己的咨询业务，直到 2019 年 6 月，他以 CEO 的身份加入于 2018 年 3 月成立的 Ascenium 公司。

Ascenium 公司获得了 900 万美元的天使轮融资和 1600 万美元的 A 轮融资。投资方 Stavanger Ventures AS 是一家风投公司，由挪威企业家 Espen Fjogstad 运营，他创立的公司曾被 eBay 和谷歌收购，还有多家公司在奥斯陆证券交易所上市；其中有几家公司是做储层建模（reservoir modeling）的，期间在北海石油热潮中派上了用场。自 20 世纪 70 年代末起，北海石油热潮为英国和挪威的经济注入了新的活力（油价在升高，技术也在发展，而海上钻探石油是经济型的）。

据了解，Ascenium 最早成立于 2005 年之前，当时它的创始人兼 CTO Robert Mykland 在 Hot Chips 会议上做了一个演讲

（https://llvm.org/ProjectsWithLLVM/Ascenium.pdf）。该公司已获得九项专利，在诉讼频发的半导体领域，这些专利很有用。Ascenium 目前的实体公司成立于 2019 年 6 月，致力于充分利用和发展 Foley、Oyvind Harboe 和 Tore Bastiansen 的研究成果。

“牛顿个人数字助理机（PDA）”当时领先于时代，依据摩尔定律，在芯片和网络的发展迎头赶上后，我们才真正有了 PDA。类似地，也许我们必须等到摩尔定律终结后，才能去思考 Robert Mykland（Ascenium 的 CTO）早在 16 年前就提倡的观点。

在了解背景信息后，我们与 Foley 聊了 Ascenium 正在研发的处理器，它并没有如我们熟知的那样有一个指令集，而是试图通过 Aptos 处理器重新定义软件编译器和底层硬件之间的接口。Aptos 处理器是一个由 64 位计算单元组成的可编程阵列。下面是一个大概的结构图，有点模糊，因为 Ascenium 目前还比较神秘。

以下是与 Foley 的对话。

摒弃旧传统的“无指令集架构”

Timothy Prickett Morgan：我好像看到的是一个没有指令集架构的处理器。我看了两遍，然后摇摇头说，这是个什么东西？它成功地引起了我的注意。

Peter Foley：我之前在 Tallwood 时，老板 Dado Banatao 说过，如今市场巨大、尚未复苏，对于创新来讲，时机已经成熟。我们的使命就是，带着完全不同的新事物进入这个巨大的市场。

我们认为它必须是完全不同的架构，如果你一直在同一个沙盒里遵守同一套规则——就是说指令集架构，你得有串行指令流进入带有深层管道的乱序发射处理器（out-of-order issue machine）——我就不细说了，如果你遵守这些规则，就赢不了。看看那些 ARM 牺牲品：Calxeda，Cavium，Broadcom 等等。

TPM：确实有很多牺牲品，价值几十亿美元的牺牲品。

Peter Foley：高通公司已经尝试过两次，他们仍在努力。在单核、单线程的 SPECint 上击败 Intel 很困难，这才是人们真正关心的问题。

TPM：AMD 正在做这件事。

Peter Foley：是的，但 AMD 仍然用的是 X86 架构，而且他们有许可证。AMD 现在可以说是在某种程度上打败了 Intel，但这很大程度上与 Intel 在晶圆厂选择的失误有关，而 AMD 使用的是台积电（TSMC），因此他们在一段时间内有节点优势。

TPM：我最近写了一篇文章，还没发表，我说 AMD 史上最好的消息就是 GlobalFoundries（半导体晶圆代工厂商）搞砸了 14 纳米技术，但 IBM 把自己的微电子部门卖给了 GlobalFoundries，这起到了作用，然后 10 纳米确实搞砸了。因为在那之后，AMD 不得不采用台积电的 7 纳米制程，同时 Intel 在 10 纳米上遇到了大问题。AMD 总能设计出优质的芯片，但 Intel 的晶圆代工问题影响太大了。

Peter Foley：你说得对。架构微调，再投入几十亿个晶体管，这些都是次要的。然而，摩尔定律和 Dennard 缩放比例定律并不匹配，因为这些架构非常复杂，必须投入几十亿个晶体管，才能提高 5%、10%、20%的性能。问题是这样一来温度就太高了，你要么调小时钟，要么关掉部分模具——然后就有了暗硅问题。

TPM：我一直在说把时钟调小，让内存和 CPU 回到接近相位的状态，因为你在大部分时间都只是在旋转时钟来等待。所以还不如慢一点，不要等待。为了在 GPU 上运行，我们必须并行化代码，所以要让 CPU 看起来像 GPU，并通过这种方式提高其处理能力。

Peter Foley：英伟达的 Ampere GPU 也有这个问题。它们发热比较厉害，即使时钟较慢，也有 400 瓦，这意味着 Ampere 不能在 PCI 板上使用，而要重新设计，使其适合 300 瓦的 PCI-Express。

TPM：所以，我认为这为 Ascenium 试图做的事情奠定了基础。

Peter Foley：我们正在做的事情将是非常不同的。这个想法是让我们重新定义编译器和硬件之间的划分（partitioning），它建立在 50 年前使用 ISA 的 IBM 大型机以及后来的 RISC 机器上。

当时，你有一个三阶段或五阶段的流水线，编译器能处理的东西比较有限，因为你没有太多的马力。但这在当时似乎是一个很好的分工了。问题是，这种 API 划分已经变得非常陈旧，50 年后的今天，随着计算能力的提高，以及我提到的 Dennard 缩放比例定律和将晶体管放在一个乱序架构中的问题，这种划分已经不能真正发挥作用。

现在是重新思考的时候了，我们应该摒弃与旧 ISA 相关的所有内容：深层流水线、乱序、重新排序、重命名、转发、运行时分支预测，把这些东西通通丢掉。

TPM：那还剩下什么呢？你刚刚说要丢掉的东西，基本上就是我所理解的一切了。

Peter Foley：我们现在有一些关键的推动因素了，一个是现在有大量的马力用于编译器。所以你可以让更复杂的编译器做更多的工作，因为有足够的马力来做。

另一个驱动因素是，如果你打算使用一种基于阵列的方法，直接由编译器进行极细粒度的控制的话，这就有点像你把一个容量庞大的微码放到基于阵列的机器里，那么你使用的编译器通常是一维的。会生成一串指令流，然后你会把指令发给硬件，硬件必须提取所有的并行，完成所有事。与此相反，我们说要让编译器完成大量的工作，深入地了解整个程序，并且进行更加复杂的优化。现在的编译器是 5D 编译器，它需要做 2D 布局、2D 布线以及调度，所以还有更多工作要做。

因为我们瞄准的市场是数据中心，所以可以一直重新编译。我们可以花 15 分钟到半个小时进行编译，然后在数据中心运行 1000 万次，并收获能耗回报。从对能耗的全面关注来看，这种计算方式也发生了变化。

因此，值得一试的是能否花更多时间在一个非常复杂的 2D 计算阵列上，这个阵列由一个有巨大容量微码的编译器直接控制。如果能节省 5%或 10%的功耗，这就是值得的。如果你能做到的话，超大规模企业将竭力邀请你接入他们的数据中心。

说到 Ascenium 的 Aptos 处理器和我们的办法，其实还有一个关键的驱动因素。我一直都在深究这个问题，这也是我为这家公司所做的一点贡献。我意识到了这一点，并且认为这的确会对 Ascenium 当前的工作产生一定的影响。

一家名为 Tabula 的公司也遇到了类似的问题。他们在软件工作时遇到了真正的难题，结果还是在他们做第二次还是第三次尝试时引入了约束求解器，这才解决。Tabula 使用基于 SAT 求解器的方法来编译后端。我们在 Wave Computing 时也采取了同样的办法，后来我又把这项技术带到了 Ascenium。

我们有一个标准的 LLVM 编译器基础设施，外加一个新的 LLVM 后端，主要面向适合约束求解器的硬件。它就像一个黑匣子，如果你有一个非常简单的规则架构，都可以在一组逻辑方程中完整地描述行为，无论是在时间还是物理上，那么我们的 SAT 求解器可以分析、解读它，并给出数学上的最佳证明结果。

这是很难被超越的。永远不能在一个复杂、异构、无序的体系结构上使用约束求解器。算了吧，那是在浪费时间。但在我们的场景，这是可行的。

当讨论整个程序时，SAT 求解器方法的数学最佳证明结果是言过其实的。从数学上，它对于代码块来说是最佳的。但对于整个程序来说，计算起来却有些棘手。

这些代码块就不得不拼接在一起。所以 SAT 求解器窗口贯穿整个代码，将编译后的窗口拼接在一起（这会降低效率）。因此，公司的诀窍之一就是知道如何最优地分割、编译和拼接 SAT 编译过的程序块。

我们的想法是使芯片的架构尽可能简单，这样把它安装到 SAT 求解器上后就会得到令人惊讶的、最佳的 5D 解决方案。这就是一场赌注：除了要跳出 X86 和 ARM 沙盒，还得有一个 IP 清除方法，这很重要。这又是另一个问题了：如果你试图和这些 CPU 架构展开角逐的话，就会撞上巨大的 IP 墙。一旦你开始对他们构成威胁，他们就会马上起诉你。这就是生意，对吧？

通过架构简化释放性能

TPM：所以这是一种做到极致的 RISC 吗？

Peter Foley：没错。而且我就是做这个出身的。很久之前，我在伯克利的时候，在一个芯片研究团队跟 David Patterson 一起研究 Smalltalk 语言。我的整个职业生涯几乎都在研究处理器，而且绝大部分都是 RISC 处理器。

TPM：我觉得这可以称得上是 NISC（无指令集计算）了，因为是把 RISC（精简指令集计算）做到了极致，对吧。

Peter Foley：哈哈，没错！但说实话，约束求解器现在是个热门话题，可以说席卷了整个 EDA（电子设计自动化）行业。本质上，我们现在做的事情其实更属于 EDA 问题，而不是传统的编译问题。有点像把一个完整的 Xilinx 或 Altera FPGA 后端结合到编译器里，因为它们的很多功能和 FPGA 查找表结构中的放置、布线、调度是差不多的。我们做的事情和这个很像，只是我们把目标放在通用计算引擎。约束求解器现在正在很多其他地方运用，但把它用在通用计算上，是我们的创举。目前我们正在努力申请知识产权和专利等，希望取得先发优势。

TPM：所以这有点像是 FPGA 数据流引擎和 CPU 之间的东西，能不能这么理解？

Peter Foley：可以这样说。不过我们这个是通用处理器，并不像 FPGA 那样用查找表结构来模拟硬件的。

还有一点挺有意思的，在 X86 指令流里，至少 50%的指令都是和数据搬运相关的移动指令，而实际运算的指令，比如加减乘之类的，大概只占 20%。但在我们的处理器中，编译器可以用同一套控制字密切控制一切，也就是说，数据搬运、运算、设置文本流方向、布线等等，都可以由编译器通过阵列中的同一控制字同时控制。所以，我们的产品中不存在序列化，当指令汇入只执行搬运的架构时也不会出现阿姆达尔定律带来的缺点，因为一切都由编译器完成了。

编译器需要同时跟踪很多东西。但在典型的乱序机器中，有大批量的重命名正在执行，这是非常复杂的，需要阵列中有充足的资源来高效执行这种超大容量的分布式重命名。因此我们采用了分布式内存，并通过大量复用来减少进入典型寄存器堆（Register File）的流量，这样一来就可以实现简化。可以说，我们基本上没有处理流程，所以分支阴影（branch shadow）特别短。这就是我们的独特之处。

TPM：所以可以说，惠普和英特尔联合开发了 EPIC（显式并行指令计算），然后嫁接到一个类似 X86，但又不如它的东西上，就做出了 Itanium（安腾）。而现在你们摒弃了惠普和英特尔的成果，只保留了 EPIC 的部分……

Peter Foley：我猜你下一句可能会问，这是真的吗？

TPM：也不全是。你要理解一下我们，所有的 AI 初创公司来到我们这儿，我和 Nicole（TPM 的搭档）都会开他们的玩笑，这些公司的硬件都做得不错，然后侃侃而谈他们开发出来的编译器有多么厉害。他们总是先铺垫介绍一番，然后说“我们的编译器可以把这些问题统统解决”。但你所说的编译器是我目前听过最神奇的。所以，如果我持怀疑态度的话，那可能是因为我也许还不太了解……

Peter Foley：我们的投资者之所以愿意投资 A 轮，帮助公司进一步发展，其中一个原因是我们已经证明了自己能够在 5 到 10 分钟内编译出 70 万行代码，并在 FPGA 原型上成功运行。这正是我们这个架构让人眼前一亮的地方：它非常简单，以至于你可以在 FPGA 上制作原型。

TPM：更准确地说，这难道不就是把四块板组合起来模拟一块小型芯片吗？然后每块板上都配备了八个 FPGA，还是最贵的那种。

Peter Foley：当然不是。不同于 Paladium 仿真器，我们用的只是一块中档的 FPGA 板，不然可就负担不起了。

我们可以运行 700,000 行代码，其中包括 SPEC 中用到的 C 语言标准库。我们将这些代码编译好，并在我们的 FPGA 测试平台上运行。FPGA 测试平台并不是完整的架构，它只是整体架构的一部分，并且得出功能正确的结果。我们有大量的符号调试器和其他一些基础设施来辅助此类操作。

TPM：当它成为产品时会是什么样子呢，而你又将如何推销它？

Peter Foley：我们正尝试在两个最重要的指标上取胜。第一个是 SPECint 性能，我们一般通过指令/时钟（IPC）来衡量，但它其实不是一个很好的衡量标准。但我们有一个指标，即我们的每个控制字中执行的工作就相当于 X86 指令。若从结果和优化的角度来评估编译器质量的话，下一步我们计划在 IPCW、指令/控制字、以及 IPC 等值这些方面做相应调整。这一步对于超大规模的处理器来说至关重要。

TPM：你们这完全是在赌一把。

Peter Foley：另一个指标则是功耗。我们的想法是要把这两个指标都拿下，并且对此胜券在握。为了降低功耗，我们去掉了所有的晶体管。

TPM：所以，你看了一下需要拿掉多少个晶体管才行，对吗？

Peter Foley：很少，也就比 X86 少很多。

TPM：大概是一个数量级还是三倍？

Peter Foley：应该是一个数量级。目前也还没有定论，所以我暂不清楚详细的数字。我们花这笔钱就是为了弄清这件事。我们会将微架构具体化并且敲定下来，然后构建一些试验硅（trial silicon），并得到 5 纳米工具，或者其他我们所需的东西，然后去构建这个微架构并进行布局。

这是构建处理器的其中一步，要做的就是处理所有的几何图形。这一步是为了解决空间延迟和距离限制。布局决定了许多因素，这些因素又会进而影响微架构。因此，我们必须解决好这些问题，同时还要留意其他问题。一旦我们开始深入研究这些问题，就能更加自信地告诉你那个数字究竟是多少。

TPM：所以，如果要我来总结一下 Aptos 架构的话，那就是降低功耗、优化性能——但你却并不需要降价。

Peter Foley：是的，没错。这样我们就不必花大价钱使用 ARM 架构了。

（本文已获取编译授权，原文：

https://www.nextplatform.com/2021/07/12/gutting-decades-of-architecture-to-build-a-new-kind-of-processor/）

其他人都在看