大规模语言模型智能体的终身学习：发展路线图

文章预览

摘要 —终身学习，也称为持续学习或增量学习，是推进人工通用智能（AGI）的关键组成部分，通过使系统在动态环境中持续适应。尽管大规模语言模型（LLM）在自然语言处理领域展现了出色的能力，但现有的LLM智能体通常是为静态系统设计的，缺乏根据新挑战随时间适应的能力。本调查是首个系统总结将终身学习纳入基于LLM的智能体的潜在技术的文献。我们将这些智能体的核心组件分为三个模块：感知模块，用于多模态输入的集成；记忆模块，用于存储和检索不断发展的知识；以及行动模块，用于与动态环境的实际互动。我们强调这三个支柱如何共同实现持续适应，缓解灾难性遗忘，并提高长期性能。本调查为从事基于LLM智能体的终身学习能力开发的研究人员和从业人员提供了一条发展路线图，提供了关于新兴趋势、评估指标和应用场景的见解。 ………………………………