伯克利：即使模型再强大，复合AI系统（ Compound AI Systems）都将会是一种领先的应用模式

主要观点总结

伯克利大学的研究人员在二月份发表了一篇关于复合AI系统的文章，强调当下好的场景效果达成不能简单依赖单一模型，而需要通过多种组件共同实现。文章介绍了复合AI系统的概念，并阐述了其可能是未来最大化人工智能成果的最佳途径。文章还讨论了实现复合AI系统面临的挑战，包括设计范围、优化方法和运维等方面。同时，文章还介绍了一些应对这些挑战的新设计模式，包括设计AI系统、自动优化质量、优化成本和运维等方面的内容。

关键观点总结

关键观点1: 复合AI系统的概念

使用多个交互组件（包括多次调用模型、检索器或外部工具）处理AI任务的系统。被认为是未来最大化人工智能成果的最佳途径。

关键观点2: 复合AI系统的优势

通过pipeline组合多种不同的组件共同实现，可以最大化AI成果。不仅仅是通过扩大训练规模，也可以通过巧妙的工程实现。

关键观点3: 实现复合AI系统的挑战

包括设计范围、优化方法和运维等方面的挑战。设计范围广泛，需要开发者探索；优化方法需要针对各个组件进行共同优化；运维方面，MLOps变得更具挑战性。

关键观点4: 应对挑战的新设计模式

包括设计AI系统、自动优化质量、优化成本和运维等。例如，设计AI系统通过使用“LLM编程”框架和策略来构建应用程序；自动优化质量通过DSPy等框架来优化系统；优化成本通过FrugalGPT和AI网关等框架来选择合适的模型和服务；运维方面需要跟踪应用程序的所有步骤和中间输出，以确保系统的可靠运行。

文章预览

伯克利大学的研究人员在二月份发布了一篇文章--《从模型到复合人工智能系统的转变[1]》（The Shift from Models to Compound AI Systems），在该文章中提到了复合AI系统（Compound AI Systems）的概念（定义：使用多个交互组件（包括多次调用模型、检索器或外部工具）处理AI任务的系统），并强调当下好的场景效果达成并不能简单依赖单一模型，而是应该通过pipeline，组合多种不同的组件共同来实现。 实现领先的AI成果，不仅仅是扩大训练规模，也可以通过巧妙的工程实现。例如，谷歌的AlphaCode 2通过一个精心设计的系统在编程方面取得了最先进的结果，该系统使用LLMs生成高达100万个可能的解决方案，然后筛选这个集合。同样，AlphaGeometry结合了LLM和传统的符号求解器来解决奥林匹克问题。在企业中，Databricks的同事发现60%的LLM应用使用了一些形式的检索增强生成 ………………………………