(Kafka Failover)Kafka broker关闭重启,生产者生产性能下降。

提问说明

Kafka集群拥有3个节点,每个节点配置万兆网卡,8块硬盘(同时读写140MB/s)。
topic 12个分区,3个副本。
关闭一个Broker,生产者持续生产数据,生产速率保持在200MB/s。
重启Broker后,生产者生产性能开始出现下降,降至40MB/s。

broker-0

usr sys idl wai hiq siq| read writ| recv send| in out | int csw
0 1 93 7 0 0| 180M 136k| 447k 194M| 0 0 | 14k 5259
0 0 94 6 0 0| 166M 0 | 411k 178M| 0 0 | 13k 4717
0 0 93 6 0 0| 177M 8192B| 458k 192M| 0 0 | 14k 4894
0 1 94 6 0 0| 178M 0 | 455k 195M| 0 0 | 14k 5961
0 1 93 7 0 0| 201M 255k| 508k 220M| 0 0 | 16k 6062

broker-1

usr sys idl wai hiq siq| read writ| recv send| in out | int csw
7 4 72 17 0 0| 12k 637M| 379M 856k| 0 0 | 30k 30k
5 3 75 16 0 0|4096B 736M| 361M 824k| 0 0 | 28k 26k
7 4 78 11 0 0| 12k 589M| 397M 904k| 0 0 | 30k 32k
4 3 80 12 0 0|8192B 537M| 400M 909k| 0 0 | 30k 33k

broker-2

usr sys idl wai hiq siq| read writ| recv send| in out | int csw
0 1 92 7 0 0| 188M 22k| 505k 198M| 0 0 |8173 4301
0 0 92 8 0 0| 128M 103k| 345k 135M| 0 0 |6856 3745
0 1 93 6 0 0| 205M 6144B| 537k 216M| 0 0 |8963 4031
0 1 93 7 0 0| 162M 0 | 421k 170M| 0 0 |7349 3519

broker-1为关闭后又被重启的节点。

问题

为什么在broker-1恢复过程(副本同步)中,生产性能下降。






发表于: 24天前   最后更新时间: 24天前   游览量:112
上一条: 到头了!
下一条: 已经是最后了!

  • 跟副本数也有关系,你备份的越多,速度就会越慢。特别还有你的应答选的是什么(all?)
    • Ack=1, 同时向3个topic生产数据。现在怀疑是顺序读写退化为随机读写,但是生产数据是先进入page缓存,没有证据能直接证明。