图灵奖得主LeCun 推崇的 JEPA 是什么?

文章预览

单击上方“ 图灵人工智能 ”，选择“星标”公众号 您想知道的人工智能干货，第一时间送达 LeCun 发推再推 JEPA： JEPA （Joint Embedding Predictive Architecture，联合嵌入预测架构） 是我最喜欢的自监督学习元架构，适用于处理连续数据，如图像、视频和音频。 此外LeCun 称  需要澄清 的是，JEPA不是Transformer的替代品。 事实上，许多JEPA系统都使用了Transformer模块。 JEPA是自回归生成架构（如大语言模型，无论是否使用Transformer）的替代方案。 如 在V-JEPA中，网络不是自回归的。 它使用了两个Transformer架构，一个用于两个编码器，另一个用于预测器。 下面，我们就来介绍下什么是 JEPA👇 在本文中，我们将讨论： 世界模型 LeCun愿景的基础部分是“世界模型”概念，即内部表示世界如何运作。他认为，给模型提供世界的上下文可以改善其结果。 “人类、动物和 ………………………………