ChatGPT 不仅是 AI 的成功，也是云计算的成功

最近 ChatGPT 占据了各大新闻板块头条，国内外各大公司陆续跟进。无论是不是 AI 相关人士，都跃跃欲试要搞个账号来玩一把。一时之间，ChatGPT 点燃了整个互联网，人们为之兴奋，讨论着如科幻小说里的未来，OpenAI 这家公司一时风光无两。

作为一个非 AI 从业者，我不懂 ChatGPT 用到的算法和模型，但我尝试从一些我了解的方向——云计算和分布式系统——来谈谈 OpenAI 的架构和技术路线。

首先，根据公开资料，OpenAI 的 ChatGPT 和其他关键 AI 产品依赖于微软 Azure 云计算服务，多年来微软共对 OpenAI 进行了共上百亿的投资，这些资金帮助 OpenAI 在 Azure 云平台上运行和训练其模型（有传闻说微软一部分投资以云计算服务交付的，但我没有找到具体的资料）。

OpenAI 的所有模型和算法——包括 ChatGPT、Codex（类似于 Github Copilot）和 Dall-E 2（人工智能绘画）都独家运行在 Azure 上，通过 Azure 的 HPC、弹性、数据存储和计算服务来完成模型计算和算法调试；当 OpenAI 的产品成熟后，除了可以公开 to c 使用，还可以作为 Azure 的一项 PaaS 服务 Azure OpenAI Service 来售卖，企业或个人可以通过 OpenAI 的 API 来开发自己的人工智能应用——而微软当然是首先吃螃蟹的人，最近微软已经宣布全线产品整合 ChatGPT，并且已经推出基于 ChatGPT 的 New Bing（这显然吓坏了 Google），和基于 Dall-E 2 的 Microsoft Designer。

这是一种完美的相辅相成、合作共赢的商业模式。

也许我们可以这么理解，OpenAI 做 Cloud Native 应用开发，基于云计算提供的方便的高性能计算来运算模型和打磨算法，并对外销售产品和 API；而微软做 AI Native，基于 OpenAI 的 AI 能力提供更强大的搜索、绘画等服务，未来我们应该还可以在 Office，Github Copilot 等微软产品中用到 OpenAI 提供的能力。

一边是 Cloud Native 做技术栈，一边是 AI Native 做产品。

这种 Cloud + AI 的商业模式，其实也并不新鲜，我们在开源数据库、开源中间件上就见过 Cloud + Infra 模式，但由于 AI 对于大量算力的需求使其从开始就考虑 Cloud Native（开源软件的研发并不强需要云，开发者在自己的电脑上也能编译运行），而由于其产品可以直达普通用户（开源软件难以引起如此轰动），组合起来才产生了如此巨大的影响力。

据传 OpenAI 运算一次成本非常昂贵，我们可以想象自建一个算力如此巨大、GPU 如此之多的数据中心需要多大的成本，以及需要额外付出多少运维运营成本，而直接“租用” Azure 的基础设施，按量付费，可以有效地节省早期的支出，并且缩短早期创业启动期，将研发的时间投入到真正有价值的事情。

图示为 AI 场景下云厂商 VM 性能对比，Azure 占优。

我们可以根据公开资料看看 ChatGPT 会用到哪些云服务（网络、安全组等等就不说了）。首先是高性能计算 HPC 作为算力基础。其次 ChatGPT 作为一个 web 服务，会使用一些基础的云服务器，并且受益于云的弹性，作为一个 to c 服务，ChatGPT 可以根据请求流量自动弹性伸缩计算、存储和网络资源；当请求减弱时，可以适当释放资源以节省成本。

另外，根据资料，ChatGPT 还使用了云数据存储和计算服务，包括：

• Azure SQL Database 和 PostgreSQL，数据库用来存储结构化数据，例如模型相关的语料和文本；

• Azure Blob Storage，用来存储非结构化数据；

• 以及数据湖存储 Azure Data Lake Storage，用来存储各种非结构化数据、半结构化和结构化数据；同时 OpenAI 还可以使用云上类似 Hadoop 之类的计算引擎来进行分布式计算，以加速模型计算任务和提升负载。

想象一下，在没有云计算的时代，干这么一件事所需要的成本，不仅需要自建机房提供计算、存储和网络，还要自己维护一堆 PaaS 服务，其启动成本让人望而却步。

OpenAI 不仅展示了 AI 的强大，也从底层展现了云计算的重要性。

也许，未来的应用在服务上要 Cloud Native，在产品上要 AI Native。

参考资料：

[1] Azure OpenAI Service: https://azure.microsoft.com/en-us/products/cognitive-services/openai-service

[2] ChatGPT and OpenAI’s use of Azure’s Cloud Infrastructure: https://dgtlinfra.com/chatgpt-openai-azure-cloud/