MoA：一种提升大模型性能的混合Agents，AlpacaEval 2.0评分超越GPT-4 Omni

文章预览

大型语言模型（LLMs） 各自在模型规模和训练数据上存在限制，进一步扩展模型成本高昂。 不同的LLMs在不同任务方面具有独特优势 ，例如一些模型擅长复杂指令跟随，而其他模型可能更适合代码生成。 Mixture-of-Agents（MoA） ：提出了一种新方法，通过分层MoA架构，每层包含多个LLM智能体，每个 智能体 使用前一层所有智能体的输出作为辅助信息生成响应。 混合Agents结构的示意图 。这个例子展示了4层混合Agent（MoA），每层有3个Agent。这里的Agent可以共享同一个模型。 Collaborativeness of LLMs（LLMs的协作性） 论文首先展示了LLMs的协作性，即当LLMs能够参考其他模型的输出时，它们能够生成更高质量的响应。 作者通过实验发现，即使其他模型提供的辅助输出质量低于单个LLM独立生成的输出，这种协作性改进仍然会发生。 在协作过程中，LLMs可以分为两种角色 ………………………………