焚决 · AI 教程站
书籍现行

Happy-LLM:从零开始构建大模型

LLMTransformerPyTorchLLaMA2

介绍

本书面向具备Python和深度学习基础的读者,从NLP基础概念讲起,涵盖Transformer架构、预训练语言模型(PLM)及大语言模型(LLM)的原理与训练过程。实战部分基于PyTorch搭建LLaMA2模型,训练分词器,并演示预训练、SFT、高效微调、评测、RAG与智能体应用,帮助读者构建完整LLM知识体系。

章节要点

  • 1NLP基础概念
  • 2Transformer架构
  • 3PLM
  • 4LLM
  • 5动手搭建大模型
  • 6大模型训练流程实践
  • 7大模型应用

替代候选