CMU 刘鹏飞：NLP的第四范式

文章预览

撰文 | 刘鹏飞 编校 | 贾 伟 来自 | AI科技评论 近两年， 基于预训练+精调的研究范式， 迅速席卷了整个 NLP 领域。这种研究范式被大家普遍认同为是 NLP 研究的革命性范式，在此之前则有“专家系统”、“统计模型”和“神经网络模型”等。 而近期，随着技术的发展，NLP领域逐渐开始盛行一种 新的研究范式：预训练 + 提示 + 预测（Pre-train, Prompt, Predict）。 这种研究范式相比于之前的“预训练+精调”，更多的会使得各种下游任务“迁就”预训练语言模型，而后者则是典型的模型“迁就”任务。 来自CMU的刘鹏飞博士，对这一研究范式做了综述总结，并在知乎上撰写一篇博客文章，将近代NLP的研究划归为四种范式，颇有深度。 作者简介 刘鹏飞，博士毕业于复旦大学，目前在卡耐基梅隆大学（CMU）语言技术研究所进行博后研究，曾担任CMU自然语言处理课 ………………………………