探讨 AIGC 的崛起历程，浅析其背后技术发展

本文分享自华为云社区《AIGC：人工智能生成内容的崛起与未来展望》，作者：杜甫盖房子。

AIGC 被认为是继专业生成内容（PGC）和用户生成内容（UGC）之后，利用人工智能技术自动生成内容的新型生产方式。随着技术的发展，如 Stable Diffusion 和 ChatGPT 等领先技术的出现，AIGC 逐渐在文字、图像、音乐、视频、3D 等多种形式内容的生产上发挥作用。然而，AIGC 的快速发展同时也面临一系列挑战，包括技术、安全、合规等方面。因此，我们既要拥抱变化，也要直视挑战，以期在不久的未来，AIGC 能够在更多领域大放异彩，开启云计算产业链新一轮的景气周期。

发展历程

AIGC（Artificial Intelligence Generated Content），国内产学研各界对它的理解是“继专业生成内容（Professional Generated Content，PGC）和用户生成内容（User Generated Content，UGC）之后，利用人工智能技术自动生成内容的新型生产方式”。

来源：中国信息通信研究院和京东探索研究院

2022.09.23 红杉美国发表了文章：《Generative AI: A Creative New World》，认为 AIGC 将带来新一轮的范式转移。2022.11.30 ChatGPT 发布，用户飞速增长，AIGC 走进了大众视野中。无论是技术工作者、内容生产工作者还是营销推广工作者，都应该对 AIGC 有一定的了解。

AI 的发展大致可以划分为三个阶段，我们用一张图简单展示一下有关 AICG 的发展历程与典型事件：

参考：中国信息通信研究院

目前，AIGC 正处于蓬勃发展的时期，大型企业加强投资布局，发布多领域的预训练模型，如谷歌发布了 BERT、Imagen 等模型，Facebook 发布了 OPT-175B、M2M-100 等模型，微软投资 OpenAI，发布了 GPT4、Codex 等模型，百度也在大模型领域深耕，发布了文心系列模型。此外，创业企业融资高涨，2022 年 10 月，Stability AI 获得约 1 亿美元融资，估值高达 10 亿美元，Jasper 拿下 1.25 亿美元 A 轮融资，估值 15 亿美元。在应用侧，热点 AIGC 应用的用户数量呈指数级增长，例如 ChatGPT 用户破亿仅用了两个月。我们认为，AIGC 技术正逐渐渗透到人们的生活、工作场景中，AIGC 技术发展与产业形态已初步形成，处于方兴未艾大有可为之时。

现状及应用

AIGC 的发展依托于底层算力、算法的发展，从生成对抗网络（Generative Adversarial Network，GAN）开始，AI 生成高质量内容的能力快速提升，一些具有代表性的算法模型的发展历程如下：

图源：《A Comprehensive Survey of AI-Generated Content (AIGC): A History of Generative AI from GAN to ChatGPT》

依托于这些算法，不同任务领域内涌现了一批预训练模型与应用：

从技术场景上看，AIGC 逐步在文字、图像、音乐、视频、3D 等多种形式内容的生产上发挥作用，在新闻稿、财报等结构化写作场景有较好的表现，在图像生成领域可以在细粒度上遵循人类指导完成指定主题内容的创作，如 Copilot 等生产力工具也纷纷涌现。

从更多的延展场景上看，AIGC 可以有更广泛的应用，如合成数据，生成虚构但与目标场景保持一致属性的虚拟数据，从而避免 AI 一直为人诟病的数据偏见与隐私泄露问题；基于 AIGC 的虚拟陪伴也会带来更多的社会价值，已经有一些企业将人工智能技术应用到精神健康的数字诊疗服务上，为临床患者和广大心理亚健康人群提供高质量、低成本、个性化、全天候的情绪支持、心理咨询和干预方案。

技术浅析

这一波火爆的 AIGC 技术中，Stable Diffusion 开源模型与 ChatGPT 分别引领了图像与文本生成领域的热潮，AIGC 也逐渐从简单的降本增效（如结构化写作）向创造额外价值（如 AI 绘画）转移，我们将对这两个模型的发展与其中涉及到的图像与文本相关技术进行简单介绍。

Stable Diffusion

AI 绘画在过去的一年中一直是 AIGC 领域的热点话题，随着 Stable Diffusion 的开源，众多不同风格的模型纷纷涌现。而高效参数微调方法LoRA与精细控制生成内容的ControlNet的发布，更进一步让 AI 绘画发展为产业可用的解决方案。

Stable Diffusion 从实现原理上，可以通俗的理解为这几步：

1. 为了提升模型训练推理效率，捕捉高维信息，Stable Diffusion 首先使用图像编码器，将图像从像素空间压缩到低维度的潜在空间；

2. 使用如 CLIP 的文本编码器，将描述文本转换为文本向量；

3. 在低维度的潜在空间中，基于一些条件（如文本向量）进行 Diffusion 过程；

4. 使用图像解码器将潜在空间中的向量转换回像素空间来生成最终图像。

图源：《The Illustrated Stable Diffusion》

我们对 Stable Diffusion 中涉及两个关键概念：CLIP 与 Diffusion 进行简单解释：

1. CLIP（Contrastive Language–Image Pre-training）是 OpenAI 在 2021 年提出的图文对训练的多模态模型，可以通俗的理解，CLIP 可以判断图片和文本的相似度。预训练的 CLIP 模型拥有建立文本潜在空间与图片潜在空间对应关系的能力，使用 CLIP 对文本进行编码可以实现文字描述控制图像生成的需求。

2. Diffusion Model 是 AI 绘画中非常常用的模型，在训练过程中，正向过程通过随时间逐步向图片中加噪的方式，让图片变成纯噪点图；逆向过程则是学习如何将一张噪点图恢复为高清图。在推理时，网络会随机初始化一个噪声向量，训练好的 Diffusion Model 在条件向量（如文本向量）的控制下逐渐恢复出图像向量，再通过图像解码器恢复为像素图像。

ChatGPT

ChatGPT (GPT，Generative Pre-training Transformer) 是一个能够理解人类语言并做出相应反应的人工智能系统，在 ChatGPT 发布之前，GPT 系列大模型已经经过几轮迭代。

然而，之前的模型中存在一个典型的对齐问题，即大模型生成的响应不一定符合用户意图。产生问题的原因是，从本质上讲，语言模型训练的目标是预测下一个词，而不是按照用户意图来生成。为了解决这个问题，在 ChatGPT 的训练过程中引入了基于人类反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF）方法，通过手动收集反馈数据 -> 训练奖励模型 -> 强化学习的训练流程提升了模型理解人类思维的准确性，可以通过一个简单的图示来展示这一训练过程：

ChatGPT 多数令人惊艳的行为，如响应人类指令，利用思维链进行复杂推理等都是 RLHF 的产物 。

参考：How does GPT Obtain its Ability? Tracing Emergent Abilities of Language Models to their Sources

ChatGPT 的成功，在技术上可以给我们带来几点启示：

1. 细致的数据工程是模型成功必不可少的工作；

2. 监督微调和强化学习是矫正模型生成内容的关键技术。

AIGC 与华为云

目前，AIGC 的市场结构可以粗略的划分如下：

AIGC 与云联系紧密，AIGC 应用依托于大模型的能力构建，而大模型的开发与运行都依赖云侧充足的算力。以 ChatGPT 为例，根据 OpenAI 报告， ChatGPT 是在 InstructGPT 基础上微调而来，参数量约 13 亿，因此预计 ChatGPT 训练所需算力为 27.5PFlop/s-day，如果用 NVIDIA V100 训练需要 220 天。可见，AIGC 应用浪潮对算力的需求是前所未有的，这将迅速拉动云计算需求。知名投资机构 a16z 在报告中阐述，几乎所有的 AIGC 相关应用都或多或少依赖云端的算力，因此 a16z 预测 AIGC 市场的大量资金最终流向了基础设施公司，平均来说，AIGC 应用开发公司将大约 20-40% 的收入用于模型推理与微调，而这部分通常直接支付给算力提供的云厂商。

算力作为 AIGC 的重要支撑，是影响 AIGC 发展的核心要素；除此之外，构筑在算力底座上的 AI 平台，又能直接影响 AIGC 应用的开发和运行效率。华为云拥有全栈全场景的 AI 能力，基于鲲鹏、昇腾的算力底座，提供了稳定高效的 AI 开发平台 ModelArts，从数据处理到模型训练、模型推理，可以大幅提升 AI 开发效率。

此外，在 ModelArts 的资产社区 AI Gallery 中，也有很多 AIGC 相关的低门槛案例，如一键运行的AI作画案例，已有 18,000+的累计运行：

如果对 AIGC 感兴趣可以到AI Gallery体验相关案例。

挑战及展望

随着 AIGC 的快速发展，一些问题也逐渐浮现。在技术上，目前语言模型是基于统计的，这一机制导致回答偏差的存在，进而导致虚假信息传播的法律风险；数理领域中的生成内容错误较多，无法应用到银行、医院等专业性强的领域；模型仍不可解释与不可控，可能存在后门攻击、数据中毒、训练数据泄露等问题。在安全合规上，AIGC 模型在训练过程中的数据使用合规问题、生成内容的知识产权问题，甚至是训练推理过程中带来的碳排放问题等，仍然存在很多挑战。

身处人工智能的下一个时代，我们不仅要拥抱变化，也要直视挑战。在技术方面，如何理解大模型的基本工作机制对模型安全与继续发展至关重要；除此之外，大模型训练与迁移流程优化是 AI 走向通用人工智能的关键。在技术发展的同时，AIGC 的合规与治理应该引起重视。相信在不久的未来，AIGC 将在更多领域大放异彩，也将开启云计算产业链新一轮的景气周期。

点击关注，第一时间了解华为云新鲜技术~