searchusermenu
  • 发布文章
  • 消息中心
点赞
收藏
评论
分享

Kafka Group Coordinator原理

2024-08-19 09:30:11
1
0

什么是coordinator

每个consumer group 都会选择一个broker作为自己的coordinator,它是负责监控整个消费组里的各个分区的心跳,以及判断是否宕机,和开启rebalance。

如何选择coordinator机器

首先对group id 进行hash,接着对__consumer_offsets的分区数量进行取模,默认分区数量是50

__consumer_offsets的分区数量可以通过offsets.topic.num.partitions来设置,找到分区以后,这个分区所在的broker机器就是coordinator机器。

比如:

group id = “group1”

“group1” .hash() % 50 =5

这个时候我们得到了5,那么我们就去看看这个8号分区在那一台机器,然后我们这个group1下的所有消费者就知道了提交offset的时候是往哪个分区去提交offset

消费流程

  1. 每个consumer都会发送JoinGroup请求到我们刚才计算出来的coordinator那台机器和是哪个
  2. 然后coordinator从一个consumer group 中取出一个consumer作为leader
  3. coordinator把consumer group 情况发送给这个leader
  4. 接着leader会负责制定消费方案
  5. 通过SyncGroup发送给coordinator
  6. 接着coordinator就把消费方案下发给所有的consumer,他们会从指定的分区的leader broker开始进行socket连接和进行消息的消费

0条评论
作者已关闭评论
YT20
20文章数
1粉丝数
YT20
20 文章 | 1 粉丝

Kafka Group Coordinator原理

2024-08-19 09:30:11
1
0

什么是coordinator

每个consumer group 都会选择一个broker作为自己的coordinator,它是负责监控整个消费组里的各个分区的心跳,以及判断是否宕机,和开启rebalance。

如何选择coordinator机器

首先对group id 进行hash,接着对__consumer_offsets的分区数量进行取模,默认分区数量是50

__consumer_offsets的分区数量可以通过offsets.topic.num.partitions来设置,找到分区以后,这个分区所在的broker机器就是coordinator机器。

比如:

group id = “group1”

“group1” .hash() % 50 =5

这个时候我们得到了5,那么我们就去看看这个8号分区在那一台机器,然后我们这个group1下的所有消费者就知道了提交offset的时候是往哪个分区去提交offset

消费流程

  1. 每个consumer都会发送JoinGroup请求到我们刚才计算出来的coordinator那台机器和是哪个
  2. 然后coordinator从一个consumer group 中取出一个consumer作为leader
  3. coordinator把consumer group 情况发送给这个leader
  4. 接着leader会负责制定消费方案
  5. 通过SyncGroup发送给coordinator
  6. 接着coordinator就把消费方案下发给所有的consumer,他们会从指定的分区的leader broker开始进行socket连接和进行消息的消费

文章来自个人专栏
云存储
20 文章 | 1 订阅
0条评论
作者已关闭评论
作者已关闭评论
0
0