【综述专栏】大型视觉语言模型攻击综述：资源、进展与未来趋势！

文章预览

在 科 学 研 究 中 ， 从 方 法 论 上 来 讲 ， 都 应 “ 先 见 森 林 ， 再 见 树 木 ” 。 当 前 ， 人 工 智 能 学 术 研 究 方 兴 未 艾 ， 技 术 迅 猛 发 展 ， 可 谓 万 木 争 荣 ， 日 新 月 异 。 对 于 A I 从 业 者 来 说 ， 在 广 袤 的 知 识 森 林 中 ， 系 统 梳 理 脉 络 ， 才 能 更 好 地 把 握 趋 势 。 为 此 ， 我 们 精 选 国 内 外 优 秀 的 综 述 文 章 ， 开 辟 “ 综 述 专 栏 ” ， 敬 请 关 注 。 链接：https://arxiv.org/abs/2407.07403 近年来，随着大型模型的显著发展，大型视觉-语言模型（LVLMs）在各种多模态理解和推理任务中展示了卓越的能力。相比于传统的大型语言模型（LLMs），由于更接近多资源的现实世界应用和多模态处理的复杂性，LVLMs 展示了巨大的潜力和挑战。然而，LVLMs 的脆弱性相对较少被探索，在日常使用中可能存在潜在的安全风险。 ………………………………