在 自然语言处理 (NLP)领域中,使用语言模型预训练方法在多项NLP任务上都获得了不错的提升,广泛受到了各界的关注。本课程将简单介绍一下预训练的思想,几个代表性模型和它们之间的关系。
课程简介
在自然语言处理(NLP) 领域中,使用语言模型预训练方法在多项NLP任务中的水平都提高了一个等级,学术界掀起了研究预训练语言模型的热潮。
课程目标
通过本课程的学习,使学员:
1、理解语言模型和神经语言模型。
2、了解主流预训练语言模型及之间的关系。
课程大纲
第1章 引言
第2章 什么是语言模型
第3章 什么是神经语言模型
第4章 主流预训练语言模型介绍
第5章 华为在预训练语言模型领域的工作