马毅教授新作：白盒ViT成功实现「分割涌现」，经验深度学习时代即将结束？

文章预览

点击上方 “ 小白学视觉 ”，选择加" 星标 "或“ 置顶 ” 重磅干货，第一时间送达 作者丨 新智元 来源丨新智元 编辑丨极市平台 导读   CRATE模型完全由理论指导设计，仅用自监督学习即可实现分割语义涌现。 基于Transformer的视觉基础模型在各种下游任务，如分割和检测中都展现出了非常强大的性能，并且DINO等模型经过自监督训练后已经涌现出了语义的分割属性。 不过奇怪的是，类似的涌现能力并没有出现在有监督分类训练后的视觉Transformer模型中。 最近，马毅教授团队探索了基于Transformer架构的模型中涌现分割能力是否仅仅是复杂的自监督学习机制的结果，或者是否可以通过模型架构的适当设计在更通用的条件下实现相同的涌现。 代码链接： https://github.com/Ma-Lab-Berkeley/CRATE 论文链接： https://arxiv.org/abs/2308.16271 通过大量的实验，研究人员证明了 ………………………………