从云原生视角看 AI 原生应用架构的实践

文章预览

本文核心观点： 基于大模型的 AI 原生应用将越来越多，容器和微服务为代表的云原生技术将加速渗透传统业务。 API 是 AI 原生应用的一等公民，并引入了更多流量，催生企业新的生命力和想象空间。 AI 原生应用对网关的需求超越了传统的路由和负载均衡功能，承载了更大的 AI 工程化使命。 AI Infra 的一致性架构至关重要，API 网关、消息队列、可观测是 AI Infra 的重要组成。 大家好，我是阿里云云原生微服务技术负责人李艳林， 我所在的团队是做云原生应用的架构、开发和运维的，并以开源和云产品的方式服务广大开发者和企业客户。随着大模型的流行，我们看到了越来越多 AI 原生的应用，因此做了非常多的实践。今天我将分享一些实践中的感悟。 AI 给业务带来了哪些变化？ AI 给应用和架构带来了哪些变化？ 我们正在探索的实践场景。 01 AI 到 ………………………………