今天看啥  ›  专栏  ›  InfoQ

Cloudflare 宣布 AI Gateway 普遍可用

InfoQ  · 公众号  · 科技媒体  · 2024-06-06 13:30
    

文章预览

作者 | Renato Losio 译者 | 明知山 策划 | Tina   Cloudflare 最近宣布 AI Gateway 已普遍可用。AI Gateway 作为管理和扩展生成式 AI 工作负载的统一接口,让开发人员能够监控和控制 AI 应用程序。 AI Gateway 是一个 AIOps 平台,为管理和扩展生成式 AI 工作负载提供了统一的接口。它作为服务和推理提供者之间的代理,无论模型位于何处。 来源:Cloudflare 博客 Cloudflare 产品经理 Kathy Liao、高级产品经理 Michelle Chen 和 产品总监 Phil Wittig 在博客中写道: 我们与许多构建 AI 应用程序的开发人员和组织进行了交谈,有一件事很明确:他们希望获得更多关于他们的 AI 的可观察性、控制性和工具化。这些是许多人工智能提供商所缺乏的东西,因为他们更专注于模型开发而不是平台特性。 将应用程序连接到 AI Gateway 使其能够通过分析和日志来监控用户的交互,并提供缓 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览