使用 LoRA 和 QLoRA 微调大语言模型

本实践课程将教授你大型语言模型（LLM）微调的技术。你还将学习诸如低秩适应（LoRA）和量化低秩适应（QLoRA）等高级技术，以针对特定任务定制Llama 3等模型。课程从基础开始，涵盖微调的概念、微调的类型、与预训练的对比、检索增强生成（RAG）与微调的比较，以及量化在减小模型体积的同时保持性能的重要性。 通过使用int8和bitsandbytes等量化方法进行动手练习，获得实际经验。深入学习参数高效微调（PEFT）技术，重点实现LoRA和QLoRA，从而在有限计算资源下高效完成微调。 完成本课程后，你将掌握LLM微调、PEFT微调以及高级量化参数的技能，具备针对不同应用场景调整和优化大型语言模型的专业能力。