网页链接🛠️从上周开始研究这个名为 Not Diamond 的-20240824104804

文章预览

2024-08-24 10:48 本条微博链接 网页链接 🛠️从上周开始研究这个名为 Not Diamond 的新工具，它已经大幅降低了我的 LLM API 成本。非常令人印象深刻。 💯 💡这个想法很简单，但功能却很强大。他们构建了一个智能 LLM 路由工具，可以根据成本最小化或最佳延迟等优化标准将您的查询路由到最佳模型，当然这样做不会降低质量。 🤔那么什么是模型路由或 LLM 路由？当用户问一个简单的问题时，路由器将使用弱 AI 或弱 LLM（要 ………………………………