落地领域大模型应知必会 (2): 轻量化微调

2023-07-10
湖南
本文字数：3220 字
阅读完需：约 11 分钟

编者按：在实际部署大模型的过程中可能会面临资源限制的问题。通过轻量化大模型微调技术，可以将大型预训练语言模型适配到特定领域、特定任务，并减小其模型尺寸和计算量需求，提高性能和效率。
在上一篇文章中，我们分享了大语言模型的主要微调技术总览。接下来，本文将介绍轻量化大模型微调技术，重点关注 Prompt Tuning 和 Prefix Tuning。
以下是译文，Enjoy!

本文经原作者授权，由 Baihai IDP 编译。如需转载译文，请联系获取授权。

原文链接：

https://magazine.sebastianraschka.com/p/understanding-parameter-efficient

作者 | SEBASTIAN RASCHKA, PHD

编译 | 岳扬

01 Prompt Tuning

Prompt Tuning 是一种通过改变输入提示语（input prompt）以获得更优模型效果的技术。举个例子，如果我们想将一条英语句子翻译成德语，可以采用多种不同的方式向模型提问，如下图所示：

这是一个 hard prompt tuning 示例，通过尝试多种输入提示来获得更好的输出效果。

这个案例采用的是硬提示调优（hard prompt tuning） 方法，因为它直接修改了离散的输入标记（input tokens），而这些标记是不可再分的。

译者注：在自然语言处理领域，一般将文本进行分词处理，将一个句子拆分为一个个离散的单词或标点符号作为 input token。每个 token 代表一个离散的语义单位，模型可以根据这些 token 进行语义理解和生成回复。
例如，对于句子 "你好，很高兴见到你！"，可以将其分解为以下离散的 input token：
[ "你", "好", "，", "很", "高兴", "见到", "你", "！" ]
这些离散的 token 可以作为模型的输入，用于训练或生成对话回复。注意，在使用离散的 input token 时需要将其转换为对应的向量表示（如词嵌入表示），以便模型能够对其进行处理和学习。

与硬提示调优（hard prompt tuning）相反，软提示调优（soft prompt tuning）方法（Lester 等人，2021 年[1]）将输入标记（input tokens）的嵌入（embeddings）与可通过反向传播算法（backpropagation）进行优化的可训练张量（tensor）连接起来，以提高模型在目标任务上的性能。

伪代码如下所示：

说明 soft prompting 相关概念的伪代码

与离散的文本 prompt 不同，软提示（soft prompts）是通过反向传播算法（back-propagation）获得的，因此可以根据已标注数据集的损失函数反馈（loss feedback）进行调整。

相较于全参数微调（full-finetuning），软提示调优（soft prompt tuning）具有更高的参数效率（more parameter-efficient），但使用软提示调优的模型性能可能稍逊一筹，如下图所示。

该图来自提出 soft prompting 的论文，https://arxiv.org/abs/2104.08691

另一方面，如果模型参数为 11B，则根据上图所示，软提示调优（soft prompt tuning）可以达到全参数微调（full fine tuning）的性能水平（需要注意的是，LLaMA 模型的最小参数规模为 7B，最大参数规模为 65B）。

存储效率

如果我们想要将大模型应用于特定任务，并因此需要微调预训练模型，通常需要为每个任务保存整个模型的副本。然而，如果使用 prompt tuning，我们只需要为每个任务保存一个小小的 task-specific soft prompt。例如，对于 T5 "XXL"模型，每个微调模型副本需要 110 亿个参数。相比之下，假设 prompt 长度为 5 个 tokens，嵌入的 size 为 4096 维（4096-dimensional），对于每个每个任务，通过 prompt tuning 只需要 20480 个参数，这相当于减少了五个数量级以上的参数量。

02 从 Prompt Tuning 到 Prefix Tuning

目前，有一种特殊的、被独立开发的 prompt tuning 方式被称为前缀调优（prefix tuning） (Li & Liang 2021[2])。其思想是将可训练的张量（trainable tensors）添加到每个 Transformer 块中，而非像 soft prompt tuning 中那样只添加输入嵌入(input embeddings)。同时，通过全连接层（fully connected layers，两层并且具有非线性激活函数的小型多层感知机）获取 soft prompt embedding。

译者注： 在使用深度学习模型进行自然语言处理任务时，input embeddings 常作*为模型的第一层进行使用，将离散的 input token 转换为连续的向量表示，从而实现对文本的有效建模和处理。*
前缀调优技术将预定义的 prompt 嵌入到模型中，以影响模型的生成行为。这项技术可以改变模型对输入的解释方式，使得模型能够更好地根据 prompt 生成相应的输出。

下图说明了常规 Transformer 块和经过前缀（prefix）修改的 Transformer 块之间的区别。

Illustration of prefix tuning

请注意，在上图中，“全连接层”是指一个小型多层感知机（由两个全连接层和一个非线性激活函数组成）。这些全连接层将 soft prompt 嵌入到一个与 transformer 块输入具有相同维度的特征空间（feature space）中，以确保两层连接时的兼容性。

使用 Python 伪代码，可以说明常规 Transformer 块和经过前缀（prefix）修改的 Transformer 块之间的区别：

prefix tuning 的伪代码图示

根据提出 prefix tuning 的论文，该方法在仅训练 0.1%的参数的情况下，实现了与微调所有层相当的模型性能（该实验基于 GPT-2 模型）。此外，在大多数情况下，prefix tuning 的表现甚至优于微调所有层，可能是因为该方法涉及的参数较少，有助于减少对较小目标数据集的过拟合问题。

由 Li and Liang 发表的 Prefix Tuning 相关论文中的注释图

最后，为了澄清推理过程中 soft prompts 的使用方式，请注意以下几点：在学习了 soft prompts 后，在我们针对特定任务对模型进行微调时，我们必须将其（soft prompts）作为前缀（prefix）提供。这样做可以使模型根据特定任务自定义其回答。此外，我们可以拥有多个 soft prompts，每个对应于不同的任务，并且在推理过程能够提供相应的前缀，以最好地去处理特定任务。

03 Prefix 与 Prompt Tuning

在性能方面，soft prompt tuning 和 prefix tuning 孰强孰弱？不幸的是，就性能而言，目前尚无直接比较 soft prompt tuning 和 prefix tuning 的研究结果，因为这它们是独立开发并同时发布的方法，各自的论文中未进行直接的比较。此外，在我查阅参数高效型大语言模型（parameter-efficient LLM）的最新文献中，并没有找到同时包含这两种方法的基准测试（benchmark） 。

在 prefix tuning 这种方法中，通过向输入序列（input sequence）插入特定任务的前缀（a task-specific prefix）来修改模型的更多层、，因此需要微调更多的参数。另一方面，soft prompt tuning 仅涉及对 input prompt embeddings 进行微调，因此更新的参数较少。这使得 soft prompt tuning 可能比 prefix tuning 更轻量化（parameter-efficient），但也可能限制了其适应更广泛目标任务的能力。

就性能方面而言，我们可以合理地期望 prefix tuning 可能表现得更好，因为它能够调整更多的模型参数以便适应更广泛的新任务。然而，这可能是以增加计算资源的消耗和提高模型出现过拟合的风险为代价的。另一方面，soft prompt tuning 可能具有更高的计算效率，但由于微调的参数较少，可能会导限制模型的性能。

04 总结

该文章介绍了两种轻量化微调技术：soft prompt tuning 和 prefix tuning。与全参数微调（full finetuning）相比，这两种方法仅需调整很少的参数。

对于开发者来说，soft prompt tuning 可以更具有吸引力，因为他们只需要修改 input embeddings，而不需像 prefix tuning 那样修改内部 transformer 块。

在你开始尝试使用这些技术微调大模型之前，我建议你持续关注其他更有趣的轻量化微调（parameter-efficient finetuning）技术：Adapters，LLaMA-Adapter（与常规的 Adapter 有关但也有所不同）以及 Low-Rank Adaptation（LoRA） 等等。这些技术可能会提供更多选择，并且可以根据你的具体需求进行更好的调整。

END