AI 大模型微调训练营第 0 期 -- 毕业总结

参加 AI 大模型微调训练营对我职业发展有非常大的帮助。选择报名学习此训练营的初衷是因为大模型微调在当前 AI 领域占据着关键地位，而该课程的大纲全面涵盖了从基础知识到前沿技术的方方面面，非常符合我深入了解和掌握大模型微调的需求。整个课程以八周为周期，分阶段深入不同主题，使我们逐渐建立了对 AI 大模型技术的整体认识，让我们对大模型微调的各个方面有了系统的了解。

第一周的技术总览揭示了 AI 大模型的四阶技术概要，涵盖了从提示工程、AI 智能体、微调到预训练技术的方方面面。深入讨论了大语言模型技术的发展与演进，涵盖了从统计机器学习到深度神经网络再到 Transformer 的演进过程，让我们对大模型的历史和演进有了更深刻的认识，为后续学习奠定了基础。

第二周则深入探讨了大模型的高效微调技术，特别关注 Parameter-Efficient Fine-Tuning (PEFT)和轻量级高效微调方法 LoRA。PEFT 方面，我们深入了解了各种高效微调技术，包括 Adapter Tuning、Prefix Tuning、Prompt Tuning 以及 P-Tuning v1 和 v2，为微调大模型提供了更灵活、高效的选择。LoRA 技术的学习也为我们打开了新的思路。通过了解 Low-Rank Adaptation of LLMs、Efficient Finetuning of Quantized LLMs 以及 Adaptive Budget Allocation for PEFT 等方法，深刻理解了如何在轻量级的情况下保持微调的效果，进一步拓展了我们对大模型微调的应用范围。

第三周的学习让我们深入了解了大模型开发工具库 Hugging Face Transformers 的强大功能。通过学习 Transformers 库的不同组件，包括 Pipeline 流水线、Model 模型和 Tokenizer 分词器，让我们更加熟悉如何高效地使用这个工具库进行大模型微调。特别是 Transformers 的微调训练模块 Trainer，提高了我们的实际操作能力。

第四周的学习重点放在了实际应用 Hugging Face Transformers 模型量化技术，为我提供了优化大模型在资源受限情况下性能的实用技能。通过学习 Auto Classes 核心设计和 GPTQ 量化技术，我们深入了解了模型量化的基本概念和原理。深入学习激活感知权重量化（AWQ）算法和 BitsAndBytes（bnb）快速实现参数精度量化的实际案例，使我们能够直观地掌握如何在实际项目中应用这些技术，提高大模型在有限资源环境下的效率。

第五周聚焦于实战 QLoRA 微调 ChatGLM3-6B 大模型，学习了智谱 AI GLM 家族及其在实际项目中的应用。通过使用 QLoRA，我成功地微调了 ChatGLM3-6B 大模型，拓展了我的大模型微调技能。LangChain 大模型应用开发框架的快速入门让我更好地理解了框架的核心概念和模块设计，为未来的大模型应用开发提供了更坚实的基础。

第六周的学习深入探讨了基于 LangChain 和 ChatGLM 的私有化部署，为我们提供了将学到的知识转化为实际项目的关键技能。通过学习 ChatGLM3-6B 模型的私有化部署，我们不仅掌握了将大模型应用于实际生产环境的方法，还了解了 LangChain 与 ChatGLM 生态的集成方式。这为搭建私有化聊天机器人提供了实用的步骤和指南。在实际操作中，学习了基于 ChatGPT 设计生成训练数据的 Prompt，并通过 LangChain 和 GPT-3.5-Turbo 生成样例数据。同时，通过使用 QLoRA 小样本微调 ChatGLM3，让我们对大模型的训练过程和数据优化有了更深入的认识。

第七周聚焦于 ChatGPT 大模型训练技术 RLHF 和混合专家模型（MoEs）技术的理论学习，让我们对大模型训练核心技术有更深刻的理解。通过学习 ChatGPT 大模型训练技术 RLHF，我们更好地理解了如何通过人类反馈来优化大模型的性能，为提高模型的实际应用效果提供了关键思路。混合专家模型（MoEs）技术的揭秘让我们对该领域的最新进展有了清晰认识。从自适应局部专家混合到多层次混合再到稀疏门控等不同层次的技术，让我们深入了解了 MoEs 在大模型中的演进和应用，为我们更好地把握行业前沿提供了宝贵的知识储备。

第八周的学习了大模型分布式训练框架 Microsoft DeepSpeed 和 Meta AI 大模型家族 LLaMA，为我们提供了在分布式训练和最新模型技术方面的全面了解。在学习 Microsoft DeepSpeed 方面，我们深入了解了 Zero Redundancy Optimizer (ZeRO)技术和 DeepSpeed 框架的核心技术。通过对分布式模型训练并行化技术的对比学习，我们更清晰地认识到如何通过 DeepSpeed 提高大模型训练的效率。详细的配置解析和实际训练操作，使我们能够灵活地应用 DeepSpeed 进行单机多卡和多机多卡训练。学习 Meta AI 大模型家族 LLaMA 为我们打开了学习开源语言大模型的新视角，为我们更好地理解行业前沿技术提供了有益的指导。

整个训练营的学习为我建立了对 AI 大模型微调全面而深入的认识。课程提供的深入理论与实践应用结合的学习机会，不仅提高了我的实际操作能力，也为我未来的技术发展提供了更广阔的空间。如果要提一点建议，希望能加入一些企业生产案例，帮助学员更好地将所学知识应用到实际生产项目中。课程结束后，组织分享一下其他同学的优秀作业，帮助大家互相交流学习。

特别要感谢彭靖田老师，他为我们提供了一门内容丰富、通俗易懂的 AI 大模型微调课程。彭老师拥有丰富的行业经验和知识储备，他的讲解清晰、条理分明，将复杂的大模型微调技术以简洁明了的方式呈现，使我们能够轻松理解语言大模型微调领域的复杂概念。他的备课认真负责，每堂课都能够提供清晰的知识框架和逻辑结构，使学员能够系统地理解课程内容。彭老师注重实践操作，通过丰富的代码实例和实践操作，帮助我们更好地将理论知识转化为实际应用。他还耐心解答同学们的疑问，确保每位学员都能够充分理解和消化所学内容。

同时，也要感谢极客时间的竹子班班和张浩助教在整个课程中的辛勤付出。他们的支持和协助让整个学习过程更加顺利，为我们的学习之旅增色不少。

在这八周的学习中，我深刻体会到大模型微调的广泛应用和不断创新的发展。通过学习不同的微调技术和工具库，我不仅提升了对大模型微调的理论认识，还掌握了实际应用这些技术的能力。课程的结构和内容设计很合理，从基础到高级，层层递进，使我们系统地了解了大模型微调的方方面面。在实际项目的操作中，我更加自信和熟练地应用大模型微调技术。

总的来说，参加 AI 大模型微调训练营是我职业发展的一次重要经历。我深感收获颇丰，对 AI 大模型微调有了更深入的认识，也为未来在这个领域的发展打下了坚实的基础。感谢这次学习机会，我期待能够在实际工作中应用所学，不断探索和创新。