Ray 在微信 AI 计算中的大规模实践

文章预览

导读   本文将探讨 Ray 在微信 AI 计算中的大规模实践。 主要围绕下面六点展开： 1.  背景 2.  百万级节点的集群管理 3.   高效稳定的利用低优资源 4.  降低应用部署复杂度 5.  Astra-Ray 使用样例 6 .  Q 分享嘉宾｜ 陈国敏   腾讯 微信专家工程师，微信 Astra 平台负责人                   苏文豪 腾讯 微信高级工程师 编辑整理｜ 马同学 内容校对｜李瑶 出品社区｜ DataFun 01    背景 微信现在已经成为人们日常生活中非常重要的组成部分，而随着人工智能的发展，微信内也为用户提供了多种涉及 AI 计算的服务体验。例如，语音消息的文字转换、视频号的 AIGC 和推荐、扫一扫功能的图像识别等。这些功能由于微信的用户规模巨大，所以 AI 计算的服务规模也非常大。 为了应对大规模的 AI 计算任务，我们建立了 Astra 平台，目前，有许多业务已经接入了 A ………………………………