文章预览
图解学习网站: https://xiaolincoding.com 大家在日常开发中,是否处理过 大批量消息积压的问题 呢? 它一般由于 代码bug(比如消费逻辑处理有误) 、或者生产者的生产速度大于消费者的消费速度(如大促、抢购等活动期间导致消息数量激增, 或者消费者处理速度极慢 ),就可能导致生产环境出现百万、甚至千万的消息积压。 那么,假设发生kafka百万消息堆积,如何解决呢? 先排查是不是bug,如果是,要快速修复 优化消费者代码逻辑 临时紧急扩容,新建临时topic 1. 先排查是不是bug,如果是,要快速修复 遇到消息积压问题时,我们需要先排查, 是不是有bug产生了 ,比如消费者未正确提交偏移量(Offset)。 消费者在处理完消息后未提交偏移量,导致重复消费或消费停滞。进而形成大量消息积压。 给个 伪代码反例 : while ( true ) { ConsumerRecords
………………………………