今天看啥  ›  专栏  ›  InfoQ

高密度部署与 QoS 保障难题何解?华为云 Serverless 基于预测给出答案

InfoQ  · 公众号  · 科技媒体  · 2024-10-21 13:30

主要观点总结

本文介绍了华为云对Serverless计算领域的资源优化调度系统的探索,特别是其提出的基于JIAGU的高效调度系统。文章详细描述了系统架构、设计、实现和验证过程,包括预测与决策解耦、资源释放和实例淘汰解耦、QoS预测模型、节点容量表、容量异步更新、并发度感知调度以及两阶段扩缩容等关键技术。通过现网验证,JIAGU实现了资源利用率30%+的提升。同时,文章还介绍了华为云FunctionGraph在过去一年的其他能力构建和优化,包括冷启动优化、弹性效率提升、函数间通信性能提升、边缘计算等方面的技术进步。

关键观点总结

关键观点1: 华为云对Serverless计算领域的资源优化调度系统的探索成果。

提出了基于JIAGU的高效调度系统,通过一系列技术实现资源利用率的提升。

关键观点2: JIAGU系统关键技术。

包括预测与决策解耦、资源释放和实例淘汰解耦、QoS预测模型、节点容量表、容量异步更新、并发度感知调度以及两阶段扩缩容等。

关键观点3: 现网验证结果。

JIAGU实现了资源利用率30%+的提升。

关键观点4: 华为云FunctionGraph的其他能力构建和优化。

包括冷启动优化、弹性效率提升、函数间通信性能提升、边缘计算等方面的技术进步。


文章预览

作者 | 思远、清源 Key Takeaways USENIX ATC(USENIX Annual Technical Conference) 是计算机系统领域国际顶级学术会议之一(CCF-A),在国际上享有极高的学术声誉,2024 年录用率仅为 15.8%。来自华为云中间件团队、上海交通大学 IPADS 实验室的论文《Harmonizing Efficiency and Practicability: Optimizing Resource Utilization in Serverless Computing with JIAGU》 [1] 成功入选 ATC 2024。 如何提高资源利用率一直是 Serverless 领域乃至云平台面临的优化难题之一,本文将介绍华为云 Serverless 在高效、高密度调度优化方面的探索历程,并揭秘 30%+ 利用率提升背后的原理。 Serverless 作为一种新的架构范式,引领着云厂商基础设施的变革与云服务的演进,凭借着按量付费、自动弹性、免运维的特点吸引越来越多的企业与用户关注。主流云服务商不断地推出 Serverless 相关的云产品和新功能,其中华为云 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览