KafkaConsumer单线程核心设计与工作原理.pdfVIP

  • 1
  • 0
  • 约1.36千字
  • 约 2页
  • 2026-07-06 发布于北京
  • 举报

KafkaConsumer单线程核心设计与工作原理.pdf

其实就是在一个while循环里不停地去调用poll()方法,其实是我们自己的一个线程,就是

我们自己的这个线程就是唯一的KafkaConsumer的工作线程,新版本的kafkaapi,简化,

减少了线程数量

消费者自己就一个线程,定时发送心跳给服务器;但是其实负责进行拉取消

息、缓存消息、在内存里更新偏移量、每隔一段时间提交偏移量、执行重新平衡这些任务

的就一个线程,其实就是我们调用Consumer.poll()方法的那个线程

就一个线程调用进去,会负责把所有的事情都干了。

为什么叫做poll呢?因为就是你可以N多个Topic的消息,此时会跟集群里很多

KafkaBroker一个Socket连接,然后每一次线程调用poll(),就会多个socket是否

有消息传递过来

可能一个消费者会消费很多个分区,每个分区其实都是者可能在不同的服务

器上,那么如果消费者要拉取多个分区的数据,就需要跟多个服务器进行通信,维

护套接字

每个socket就会跟一个进行通信

每个Consumer会多个Socket,负责跟多个Broker进行通信,我们就一个工作线

文档评论(0)

1亿VIP精品文档

相关文档