前言

在人工智能技术迅猛发展的浪潮中，大语言模型（LLM）作为AI领域的璀璨明珠，正深刻改变着人类与技术交互的方式。从智能对话助手到内容创作工具，从代码生成到知识推理，LLM的应用已渗透到各个领域，展现出惊人的潜力。然而，其背后复杂的技术体系，从基础的神经网络原理到Transformer架构，从预训练技术到微调策略，却让许多开发者和学习者望而却步。

本书以LLM为核心，从神经网络基础原理出发，逐步深入Transformer架构、预训练与微调技术，最终落脚于实际应用与前沿探索。无论是AI领域的初学者，还是希望深入理解LLM的开发者都能通过本书循序渐进地掌握这一前沿技术，在AI浪潮中占据先机。在撰写过程中，笔者查阅了大量权威文献与官方资料，结合实际项目案例，力求内容兼具深度与实用性，这一过程也让笔者对LLM技术有了更深刻的理解与思考。

本书主要内容

第1章从生成式人工智能的基础概念入手，剖析判别任务与生成任务的区别，详解自回归式生成的原理。进而介绍LLM的核心原理与演进历程，分析其能力与局限，为读者建立对LLM的基本认知。

第2章系统讲解深度学习的基本范式，深入剖析全连接神经网络、卷积神经网络、递归神经网络等常见结构。介绍神经网络的衡量标准与优化方法，为理解LLM的底层架构奠定基础。

第3章详细指导如何在云端交互式计算环境、Linux系统及Windows系统中搭建深度学习环境，包括工具安装、配置优化等，帮助读者快速构建开发实践平台。

第4章聚焦张量与张量运算，讲解如何使用PyTorch构建神经网络，通过案例演示模型的训练与推理过程，让读者掌握神经网络的实际应用方法。

第5章介绍分词与标记化算法，详解Word2Vec模型如何将文本转换为向量，阐述语言建模的原理，以及自然语言理解与生成的任务特点，构建NLP与LLM的知识连接。

第6章深入解析Transformer架构，包括自注意力机制、编码器与解码器结构等核心组件，揭示LLM具有强大能力的技术根源。

第7章聚焦自然语言处理领域的里程碑模型BERT，全面解析其技术架构、预训练机制及下游任务微调方法，同时介绍相关代码实现结构，构建从理论到实践的完整知识体系。

第8章聚焦GPT模型，系统阐释其技术架构、预训练机制、下游任务微调方法及解码算法，揭示生成式预训练模型的核心原理与实践应用。

第9章聚焦BART模型，系统解析其架构设计、预训练机制、下游任务应用及技术优劣势，揭示其在自然语言处理领域的技术价值与局限。

第10章聚焦现代大语言模型发展的重要里程碑——T5和GPT3，系统解析二者的技术架构、预训练机制、核心能力及应用范式，揭示其如何推动自然语言处理从任务专用向通用智能转型。

第11章聚焦现代大语言模型的构建方法，系统介绍从预训练优化到应用落地的关键技术，解决模型与人类需求对齐、生成质量控制、深度思考能力提升及降低应用成本等核心问题，构建完整的LLM技术体系。

第12章聚焦大语言模型的交互优化与能力扩展，系统介绍提示工程的核心原则、方法及实践案例，并深入解析模型上下文协议，构建从人机交互到工具集成的完整技术体系。

阅读建议

本书是一本融合理论基础、技术原理与实践应用的综合性教程，既有深入浅出的知识讲解，又提供丰富的项目案例与代码实现，所有示例均经过验证且配套开源代码，助力读者全面掌握LLM技术。

对于零基础的读者，建议从第1章开始按顺序阅读，逐步构建从神经网络基础到LLM核心技术的知识体系。书中内容由浅入深、循序渐进，严格的章节逻辑可帮助读者避免知识断层，扎实掌握每个技术要点。

对于已有深度学习基础但没有自然语言处理基础的读者，可以跳过第2~4章，从第5章开始了解NLP的基础内容。

对于已有自然语言处理基础但不了解Transformer架构的读者，可以跳过第2~5章，从第6章开始了解Transformer的基础内容。

对于已有Transformer基础，同时了解BERT、GPT和BART等预训练语言模型，但不了解GPT3.5和GPT4等现代LLM的读者，可以跳过第2~9章，从第10章开始了解LLM的萌芽，并重点阅读第11章以了解现代LLM的构建方法。

资源下载提示

扫描目录上方的二维码可下载书中的代码。

蔡宇昂

2026年4月