前言

随着人工智能技术的迅猛发展，大语言模型（Large Language Model，LLM）已成为自然语言处理领域的核心驱动力。从机器翻译、对话系统到知识问答，大语言模型在众多任务中展现出强大的性能，深刻改变了人类与信息的交互方式。作为推动这一技术浪潮的核心，Transformer模型及其衍生架构以其高效的并行计算能力和强大的上下文建模能力，成为大语言模型研究与应用的基础支柱。与此同时，预训练、微调、推理优化及人类对齐等技术的发展，进一步地提升了大语言模型的性能与实用性，使其在学术研究与产业应用中均占据重要地位。

然而，大语言模型的复杂性与快速发展也为学习者带来了挑战。相关技术涉及深度学习、数学建模、算法优化及工程实现等多个领域，知识体系庞大且更新迅速。如何系统地掌握大语言模型的理论基础与研究方法，成为相关领域高校学生、研究人员及工程技术人员面临的共同问题。为此，本书的编写旨在为读者提供一部结构清晰、内容全面、理论与实践兼备的入门教材，帮助其快速建立对大语言模型的整体理解，并为后续研究与开发提供指导。

本书以Transformer模型为核心，全面地介绍了大语言模型的理论基础、技术细节与工程实践。全书共9章，涵盖了从基础理论到前沿应用的完整知识体系。第1章从深度学习与注意力机制入手，详细剖析Transformer模型的关键技术与代码实现。第2～4章聚焦数据与模型的核心环节，包括预训练语料的构建与处理、数据表征的演进，以及扩展法则与架构优化。第5～7章深入探讨大语言模型的预训练、微调与推理过程，结合数学推导与算法实现，揭示模型优化的核心方法。第8章讨论人类对齐的理论与实践，分析如何使模型输出更符合人类价值观。第9章系统介绍大语言模型的评测方法，涵盖语言理解、生成、推理及伦理等多个维度。

在编写过程中，编者力求做到以下几点： 第一，内容系统全面，覆盖大语言模型的核心知识点；第二，理论与实践结合，既提供数学原理与算法推导，也包含代码实现与案例分析；第三，注重前沿性，融入最新的研究成果与技术进展。本书可作为高等院校人工智能、计算机科学及相关专业的教材，也可作为从事自然语言处理及大语言模型开发的从业人员的参考书。

本书由孙弋任主编，王安义、孙龙杰、田丰、陈旸及孙骁尧任副主编。研究生韩影参与部分工作。由于人工智能及自然语言处理领域发展迅速，书中难免存在不足之处，恳请读者批评指正。希望本书能够为本领域初学者提供一把打开大语言模型之门的钥匙，开启他们在这一激动人心领域的探索与创新。

资源下载提示

素材（源码）等资源： 扫描目录上方的二维码下载。

视频等资源： 扫描封底的文泉云盘防盗码，再扫描书中相应章节的二维码，可以在线学习。

编者2026年5月