RAG as a Service：开发者必备的新晋神器！

文章预览

你有没有想过自己去搭建一个邮件服务器？或者构建一个 CRM 系统？又或者，自己训练一个 LLM？大概不会吧？ 但有趣的是，我却看到不少公司在尝试构建自己的 RAG 管道。 开发者们热衷于炫耀他们基于 LangChain 的 RAG 管道，却完全没有意识到，当他们的项目进入生产阶段时，那些漫长且痛苦的技术调优和运维挑战正等着他们。 举个例子：前几天我在波士顿的一个会议上遇到了一家初创公司。他们用 LangChain 驱动的 RAG 管道上线了自己的 MVP 产品。听起来不错？然而几天后，他们已经不得不着手把 LangChain 从技术栈中移除，重新设计架构了。 这样的状况令人遗憾。他们本可以把精力集中在更重要的事情上，比如产品市场匹配或其他能推动业务发展的关键因素，而不是在技术栈上兜兜转转。这种做法简直是在重复造轮子，仿佛他们试图自己构建一个 LLM， ………………………………