VLM小模型元年！提示学习驱动知识蒸馏新方法 | CVPR'24

文章预览

自从谷歌提出ViT、Open AI发布 CLIP， 视觉语言模型（ VLM ）便成为了 研究热点， 凭借跨模态处理和理解能力，以及零样本学习方法，为CV领域带来了重大革新，但由于大模型体量及泛化的限制，今年多家巨头开启了模型压缩技术的角逐，其中， 知识蒸馏的教师-学生模型效果显著， 一项基于 提示学习的VLM蒸馏新方法 ，也被 顶会 CVPR'24关注收录 ！ 为了帮助大家综合掌握，集 VLM、知识蒸馏、提示工程一体的创新成果 ，研梦非凡于 9月4日晚（周三） ，邀请了从事 多模态大模型研究的王导师 ，独家详解来自 南开 & 蚂蚁集团的 CVPR'24研究 《 PromptKD： 基于提示学习的VLM蒸馏新方法！ 》 （AI前沿直播课NO.65） ，从 VLM、Knowledge Distillation、Prompt Learning的知识回顾，到PromptSRC等顶会相关工作， 重点讲解PromptKD方法原理、提示蒸馏过程及实验研究， 1节课get前沿 ………………………………