自然语言处理被誉为“人工智能皇冠上的明珠”。深度学习等技术的引入为自然语言处理技术带来了一场革命, 尤其是近年来出现的基于预训练模型的方法, 已成为研究自然语言处理的新范式。本书在介绍自然语言处理、深度学习等基本概念的基础上, 重点介绍新的基于预训练模型的自然语言处理技术。本书包括基础知识、预训练词向量和预训练模型三大部分: 基础知识部分介绍自然语言处理和深度学习的基础知识和基本工具; 预训练词向量部分介绍静态词向量和动态词向量的预训练方法及应用; 预训练模型部分介绍几种典型的预训练语言模型及应用, 以及预训练模型的最新进展。除了理论知识, 本书还有针对性地结合具体案例提供相应的PyTorch代码实现, 不仅能让读者对理论有更深刻的理解, 还能快速地实现自然语言处理模型, 达到理论和实践的统一。并列题名：Natural language processing eng