专栏名称: AIGC开放社区
专注AIGC(生成式人工智能)领域的专业社区,关注GPT-4、百度文心一言、华为盘古等大语言模型(LLM)的发展应用和落地,以及国内LLM的发展和市场研究,社区秉承共建、共享、开放的理念,提供对社区会员有价值的商业化思路和服务。
今天看啥  ›  专栏  ›  AIGC开放社区

开源创新框架MoA,可极大增强大模型的能力

AIGC开放社区  · 公众号  ·  · 2024-06-27 09:27

文章预览

专注AIGC领域的专业社区,关注微软 、百度文心一言、讯飞星火等大语言模型(LLM)的发展和 应用 落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注! 知名大模型平台Together AI开源了一个创新框架Mixture-of-Agents(简称,MoA)。 MoA可以显著提升大模型的生成内容的能力和安全性,同时降低对AI算力的需求。研究人员在AlpacaEval 2.0、MT-Bench和FLASK等多个基准上进行了全面评测,涵盖了从无害性、鲁棒性、效率、可读性、事实性等多个维度。 结果显示,MoA在AlpacaEval 2.0上以65.1%的得分,击败了OpenAI的GPT-4o (57.5%),并且在使用开源大模型的条件下,仍然保持了明显的优势。也就是说,开发人员在有限的算力预算下,MoA也能最大化开源大模型的能力。 开源地址:https://github.com/togethercomputer/moa?tab=readme-ov-file 论文地址:https://arxiv.org/abs/2406.04692 传统的单一大 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览