学习LLAMA3模型的架构和原理、模型代码实现以及部署、微调、评估实战

中级65课时 共9小时40分钟

本课程主要讲解了Transformer和大语言模型(LLM)的核心原理，并深入探讨了Llama 3模型的技术细节及其实现。课程首先介绍了注意力机制、多头注意力、编码器-解码器结构等Transformer的基础知识，接着讲解了LLM的文本生成过程、推理模式及微调技术，包括贪婪搜索、束搜索等多种生成策略，及其背后的Q、K、V机制。

课程重点内容是Llama 3模型的进化历程及其技术原理，涵盖了RMSNorm归一化、SwiGLU激活函数、RoPE位置编码、GQA注意力等创新技术，并通过详细的代码解析，深入剖析了Llama 3的架构设计。课程还介绍了Llama 3在阿里云的部署方式，涵盖了Ollama和vLLM平台的使用，以及如何进行基于LoRA和QLoRA的微调操作。

通过项目实战环节，学员可以学习如何从准备数据集到进行训练、推理和评估，完成中文增强和医疗问答等具体应用的Llama 3大模型微调过程。该课程结合理论与实践，帮助学员全面掌握大模型技术，并具备将其应用到实际工程中的能力。