五万字综述！Prompt Tuning：深度解读一种新的微调范式

文章预览

↑ 点击 蓝字  关注极市平台 作者 丨王嘉宁 来源丨NewBeeNLP 编辑丨极市平台 极市导读   本文将深入解读Prompt-Tuning的微调范式，以综述+讨论的形式展开。   >> 加入极市CV技术交流群，走在计算机视觉的最前沿 大家好，这里是 NewBeeNLP。 这绝对是我看过最全面细致的Prompt Tuning技术综述之一，全文共五万多字，看完之后你一定发出一样的感叹！ 阅读该博客，您将系统地掌握如下知识点： 什么是预训练语言模型？ 什么是prompt？为什么要引入prompt？相比传统fine-tuning有什么优势？ 自20年底开始，prompt的发展历程，哪些经典的代表方法？ 面向不同种类NLP任务，prompt如何选择和设计？ 面向超大规模模型，如何借助prompt进行参数有效性训练？ 面向GPT3，什么是In-Context Learning？什么是Chain-Of-Thought？ 面向黑盒模型，如何使用prompt？ ChatGPT里有哪些prompt技术？ 未 ………………………………