文章预览
“ Octopus v4: Graph of language models ” 目前已经又数量庞大的LLM可供大家使用,通常每个LLM有各自精通的领域,针对特定的领域需要选择对应的LLM,当需要面向多领域应用时,无法自动选择合适的模型。 本文提出了一种新的解决方法,Octopus v4能够使用功能令牌来同时集成多个开源模型,通过结合图结构,实现模型的自动选择。 论文地址 :https://arxiv.org/pdf/2404.19296 Github地址 :https://github.com/NexaAI/octopus-v4 摘要 Octopus v4是一种新的模型集成方案,利用功能标记来整合多个开源模型,每个模型都针对特定任务进行了优化。Octopus v4模型利用功能标记智能地将用户查询引导到最合适的垂直模型,并重新格式化查询以实现最佳性能。此外,本文还探讨了使用图作为一种多功能数据结构,通过利用Octopus模型和功能标记的能力来协调多个开源模型。通过激活约10亿参
………………………………