诡异！Redis Proxy RT上升后连接倾斜

文章预览

阿里妹导读 本文细致地描述了关于Redis Proxy RT上升后连接倾斜问题的排查过程和根本原因，最后给出了优化方案。 问题背景   Redis 代理集群版流量模型如上图，客户端通过域名访问到 AliLB，这是一个 4 层的负载均衡，会把连接均匀地分发到后端的 proxy 上，理论上每个 proxy 上处理的客户端连接数应该相近。 如果 proxy 上出现负载不均，就可能出现一个 proxy 的 cpu 已经接近满的状态，但其他 proxy 还很空闲，用户的实际吞吐远低于集群的能力上限，但访问到高负载 proxy 的请求 RT 开始升高，导致业务受损。 导致 proxy 负载不均的原因通常有 2 类。 连接不均衡 早期 AliLB 调度算法采用了 WRR，这是一种带权重的调度算法，当后端 proxy 在增加或减少时，由于算法本身的问题会出现连接调度不均，目前换为 RR 调度算法后，该问题不再出现。 部分 proxy 重启 ………………………………