专栏名称: 小林coding
图解得了技术,谈吐得了烟火。
目录
今天看啥  ›  专栏  ›  小林coding

面试官:Kafka 百万消息积压如何处理?

小林coding  · 公众号  ·  · 2024-10-28 13:58

文章预览

图解学习网站: https://xiaolincoding.com 大家在日常开发中,是否处理过 大批量消息积压的问题 呢? 它一般由于 代码bug(比如消费逻辑处理有误) 、或者生产者的生产速度大于消费者的消费速度(如大促、抢购等活动期间导致消息数量激增, 或者消费者处理速度极慢 ),就可能导致生产环境出现百万、甚至千万的消息积压。 那么,假设发生kafka百万消息堆积,如何解决呢? 先排查是不是bug,如果是,要快速修复 优化消费者代码逻辑 临时紧急扩容,新建临时topic 1. 先排查是不是bug,如果是,要快速修复 遇到消息积压问题时,我们需要先排查, 是不是有bug产生了 ,比如消费者未正确提交偏移量(Offset)。 消费者在处理完消息后未提交偏移量,导致重复消费或消费停滞。进而形成大量消息积压。 给个 伪代码反例 : while  ( true ) {     ConsumerRecords ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览