大模型如何做视频理解？最新《多模态大语言模型在全面长视频理解》综述

文章预览

大型语言模型（LLMs）与视觉编码器的集成最近在视觉理解任务中展示了令人瞩目的表现，充分利用了它们理解和生成类人文本以进行视觉推理的固有能力。鉴于视觉数据的多样性，多模态大型语言模型（MM-LLMs）在理解图像、短视频和长视频时，在模型设计和训练上表现出不同的变异性。 本文重点讨论长视频理解相较于静态图像和短视频理解所带来的巨大差异和独特挑战。与静态图像不同，短视频包含具有空间和事件内时序信息的连续帧，而长视频则由多个事件组成，涵盖事件间和长期时序信息。在本次综述中，我们旨在追踪并总结从图像理解到长视频理解的MM-LLMs进展 。我们回顾了各种视觉理解任务的差异，强调了长视频理解中的挑战，包括更细粒度的时空细节、动态事件以及长期依赖关系。接着，我们详细总结了在长视频理解中MM-LLMs的模型设 ………………………………