如今，各行各业都在探索大模型的应用落地。然而对于大部分企业而言，打造自己的基础模型或许困难重重，但这并不代表大模型无法为我们所用——通过大量基础模型的开源分享，企业可以使用微调的方法，训练出适合自身行业应用场景的大模型及应用。

本期澳鹏干货，一起来了解大模型微调。

什么是大模型微调？

大模型微调（Fine-tuning）是指在已经预训练好的大语言模型基础上，使用特定的数据集进行进一步的训练，使模型适应特定任务或领域。

例如，一个通用大模型涵盖了许多语言信息，并能够进行流畅的对话。但如果涉及到某个专业领域，例如在医药方面能够很好地回答患者的问题，就需要为这个通用大模型提供更多新的优质数据供其学习和理解。为了确定模型能够正确回答，我们就需要对基础模型进行微调。

▲澳鹏中国大模型智能开发平台在医疗、

法律等垂直领域的研发正不断取得突破

没有一个模型可以完美解决所有问题。尤其当涉及到行业内的专业问答等信息时，通用大模型往往无法触及。在这种情况下，微调就成了重要的手段。使用特定的数据集，对合适的基础模型进行微调，以完成特定任务或回答特定问题等。

大模型微调的两大主要方法？

根据微调对整个预训练模型的调整程度，微调可以分为全微调和部分微调两个方法：

全微调（Full Fine-tuning）：全微调是指对整个预训练模型进行微调，包括所有模型参数。这种微调方法通常适用于任务和预训练模型之间存在较大差异，或任务需要模型具有高度灵活性和自适应能力的情况。全微调需要较多计算资源和时间，但可以获得更好的性能。

部分微调（Repurposing）：部分微调是指在微调过程中只更新模型的顶层或少数几层，而保持预训练模型的底层参数不变。部分微调通常适用于目标任务与预训练模型之间有一定相似性，或任务数据集较小的情况。部分微调需要较少的计算资源和时间，但在某些情况下性能可能会有所降低。

选择全微调还是部分微调取决于任务特点和可用资源。在实际应用中，可以根据任务需求和实验结果来选择适当的微调方法。

大模型微调的两个主要类型？

根据微调使用的数据集类型，大模型微调还可以分为监督微调和无监督微调两种：

监督微调（Supervised Fine-tuning）：监督微调是指在进行微调时使用有标签的训练数据集。这些标签提供了模型在微调过程中的目标输出。通过使用标签来指导模型微调，可以使模型更好地适应特定任务。

无监督微调（Unsupervised Fine-tuning）：无监督微调是指在进行微调时使用无标签的训练数据集。这意味着在微调过程中，模型只能利用输入数据本身的信息，而没有明确的目标输出。这种方法通过学习数据的内在结构或生成数据来进行微调，以提取有用特征或改进模型的泛化能力。

监督微调和无监督微调这两种微调方法可以单独使用，也可以结合使用，具体取决于任务类型和可用数据的质量和规模。

澳鹏大语言模型微调流程涉及数据准备、模型选择和初始化、微调训练、超参数调优、模型评估和部署等步骤。

首先，准备与目标任务相关的数据集；然后选择适合任务需求和数据规模的澳鹏大语言模型，并进行初始化；接下来通过多轮微调训练，将数据输入模型、计算损失并更新参数，以使模型适应特定任务；在微调过程中，可以调整超参数以改善模型性能；完成微调后，对模型进行评估，可以使用指标或人工评估来评估模型的表现；最后，将经过微调的模型部署到实际应用中，可以作为 API 接口或集成到其他系统中。

整个流程需要综合考虑数据质量、模型选择和超参数设置等因素，以获得最佳的微调效果。

作为提供高质量数据服务的 AI 战略合作伙伴，澳鹏中国大模型智能开发平台为行业 AI 客户提供一站式大模型开发工具链，集成主流开源大模型，涵盖从数据集管理、数据标注、计算资源调度、模型评估、模型微调、模型部署等全栈能力。

依托于平台，澳鹏中国还提供大模型的数据定制和模型定制等全链路解决方案，帮助企业轻松拥抱大模型，构建高质量的生成式 AI 应用，为最终用户实现变革性体验。