专栏名称: AIGC开放社区
专注AIGC(生成式人工智能)领域的专业社区,关注GPT-4、百度文心一言、华为盘古等大语言模型(LLM)的发展应用和落地,以及国内LLM的发展和市场研究,社区秉承共建、共享、开放的理念,提供对社区会员有价值的商业化思路和服务。
今天看啥  ›  专栏  ›  AIGC开放社区

谷歌提出视觉记忆方法,让大模型训练数据更灵活

AIGC开放社区  · 公众号  ·  · 2024-10-09 07:07

文章预览

专注AIGC领域的专业社区,关注微软 、百度文心一言、讯飞星火等大语言模型(LLM)的发展和 应用 落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注! 目前,多数大模型一旦经过预训练,其内部结构便难以改变,就像把知识刻在石头一样。如果你想对模型的数据进行更新,就需要对整个模型重新训练,消耗大量时间和AI算力。 为了解决这一难题,谷歌DeepMind的研究人员提出了创新视觉记忆技术,其核心是将深度学习模型的表示能力与数据库的灵活性相结合,可以灵活地添加或删除数据。简单来说,和人类的视觉记忆差不多,既能不断学习新的知识,又能对已有的知识进行更新和调整。 构建视觉记忆的过程主要有两个步骤: 首先建立视觉记忆,然后利用快速最近邻检索进行分类。视觉记忆本质上是一个存储了图像及其对应标签的数据库,其中每 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览