Flink+Kafka深度调优：流处理延迟骤降70%

　　去年寒假那会儿，外卖单量两百多吧，反正没剩几个毛利——隔壁老王还跟我吐槽他新上的酸菜鱼，成本压到十二块五，结果客人嫌鱼片薄，退货率蹭蹭涨。我那会儿正盯着Flink的监控面板，Kafka的延迟突然从三百毫秒跳到一千二，冰柜压缩机还在旁边嗡嗡响，外卖催单的提示音跟催命似的，手里还攥着刚被汤烫出来的泡，疼得我直抽抽。

　　这事儿得从头捋。寒假前一周，我们刚把Flink的并行度从8调到16，Kafka的partition也加了俩，想着应付春节前的流量高峰。结果调完当天，延迟直接腰斩，运维群里还夸“这波优化稳了”。结果第二天下午三点，延迟突然开始爬坡——我原以为又是哪个算子卡了，结果翻日志发现Kafka的consumer group卡在“rebalance”状态，隔壁老张叼着烟过来借火，说“你这监控面板颜色太艳，晃得我眼睛疼”。

　　问题出在Kafka的`max.poll.interval.ms`参数。我们为了防OOM，把这值从5分钟调到了3分钟，结果Flink的checkpoint一卡，consumer就超时踢出group，重新rebalance时又撞上高并发，直接雪崩。那天下午我蹲在机房改配置，抹布是湿的，擦屏幕时还滴了水在键盘上，外卖小哥在门口催单，说“再不出餐我要扣钱了”——我抬头看了眼监控，延迟已经飙到一千八，比调优前还高。

　　后来怎么解决的？先把`max.poll.interval.ms`调回5分钟，再把Flink的`checkpoint.interval`从10秒改成30秒——别笑，这招是跟二条街的老李学的，他那会儿搞Spark Streaming卡壳，也是靠拉长checkpoint间隔续的命。改完当天，延迟从一千八掉到四百二，第二天早上再看，稳定在三百五左右，比调优前的九百八，直接降了70%。门口那只猫又来了，蹲在交换机旁边打哈欠，我扔了块饼干给它，心想“这猫都比某些参数靠谱”。

文章配图，仅供参考

　　说到这儿，老张又凑过来了，说“你那天改配置时，是不是把Kafka的`auto.offset.reset`也动了？”我愣了下，说“没啊，就改了那俩参数”。他叼着烟笑，“那奇怪了，我昨晚看日志，发现有个consumer group的offset突然跳回两天前，差点把数据重复处理了。”我低头翻了翻手机里的配置记录，发现确实漏了`enable.auto.commit`——这参数我们原来设的是`false`，结果不知谁手欠改成了`true`。门口的猫突然窜出去，撞翻了垃圾桶，外卖小哥的电动车警报声跟着响起来，我叹了口气，心想“这破事儿，没完没了”。

　　现在回头看，那波调优能成，靠的不是“调参数”，是“砍冗余”。我们把Flink里80%的冗余算子删了，Kafka的topic从12个砍到6个，consumer group从5组并到3组——就像老王后来把酸菜鱼换成鲈鱼，成本没变，退货率直接掉一半。优化的尽头不是“更复杂”，是“更简单”。这话我跟老张说过，他叼着烟笑，“简单？那为啥我调了三年参数，还是天天被老板骂？”我指了指监控面板上的延迟曲线，“因为简单的事，没人愿意信。”

　　对了，老王那鲈鱼酸菜鱼，现在卖二十八一份，毛利能到四十——比之前那黑鱼片，强多了。他昨天还给我送了份，说“尝尝，这鱼片厚吧？”我咬了口，确实不腥，就是有点咸。他挠挠头，“盐放多了，下次注意。”我笑了笑，心想“这世上，哪有完美的优化？能活下来的，都是肯改的。”

（编辑：站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!