一款AI agent和RAG应用的监控分析工具：Laminar

文章预览

项目简介 Laminar 是一个用于工程LLM产品的开源平台。跟踪、评估、注释和分析LLM数据。充满信心地将LLM应用程序投入生产。 将其视为LLM应用程序的 DataDog + PostHog。 基于 OpenTelemetry 的检测：自动进行LLM / 矢量 DB 调用，只需 2 行代码 + 装饰器即可跟踪函数（由 TraceLoop 的令人惊叹的OpenLLMetry开源包提供支持）。 基于语义事件的分析。Laminar 托管LLM管道的后台作业队列。这些管道的输出被转化为指标。例如，您可以设计一个管道来提取“我的 AI 得来速代理进行了追加销售”数据，并在 Laminar 中跟踪该指标。 使用现代堆栈进行扩展：用 Rust 编写，用于消息队列的 RabbitMQ，用于数据的 Postgres，用于分析的 Clickhouse 具有洞察力、快速的跟踪/跨度/事件仪表板 入门 Laminar云 最简单的入门方法是在我们的托管平台上使用慷慨的免费套餐 -> lmnr.ai 使用 Docker compose ………………………………