写点什么

Kafka实战

0 人感兴趣 · 13 次引用

  • 最新
  • 推荐

kafka 实战】分区重分配可能出现的问题和排查问题思路

在这之前如果你比较了解分区重分配的原理的话,下面的可能更好理解;推荐你阅读一下下面几篇文章(如果你点不进去说明我还没有发布)

https://static001.geekbang.org/infoq/5f/5fbb39c1d28577c13277c213c170995f.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

图解 Kafka 的 RecordBatch 结构

我们之前有讲过生产者的ProducerBatch, 这个RecordBatch跟ProducerBatch的区别是什么呢? RecordBatch是在ProducerBatch里面的一个专门存放消息的对象, 除此之外ProducerBatch还有其他相关属性,例如还有重试、回调等等相关属性。

https://static001.geekbang.org/infoq/fe/fed88c712c0325460d8f78c2ad7bbaff.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

图解 KafkaConsumer SyncGroupRequest 请求流程

当我们JoinGroup完成之后, 消费者客户端收到了Response, 然后就会立马发起SyncGroupRequest 相关代码如下

【kafka 运维】TopicCommand 运维脚本

TopicCommand 1.Topic创建 bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 3 --partitions 3 --topic test

https://static001.geekbang.org/infoq/fe/fed88c712c0325460d8f78c2ad7bbaff.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

Kafka 消费者 JoinGroupRequest 流程解析

当我们启动消费者客户端的时候, 会向协调器 coordinator 发起一个 JoinGroup的请求,表示要加入消费组中。 这个发起请求的地方在 AbstractCoordinator#sendJoinGroupRequest

【kafka 原理】消费者提交已消费的偏移量

那在上一篇文章中我们了解了 消费者偏移量__consumer_offsets_,知道了 消费者在消费了消息之后会把消费的offset 更新到以 名称为__consumer_offsets_的内置Topic中; 每个消费组都有维护一个当前消费组的offset; 那么就会有以下疑问

https://static001.geekbang.org/infoq/23/237238f5183e34a55535850892ad139a.webp?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

【kafka 原理】Kafka 生产者 (分区策略和 ACK 应答机制)

分区策略 分区原因 方便再集群中扩展,每个Partition可以通过调整以适应它所在的机器,而一个topic又可以有多个Partition组成,因此整个集群就可以适应任意大小的数据了; 可以提高并发,因为可以以partition为单位读写

https://static001.geekbang.org/infoq/8d/8da8198cf686e8a6144c293f3cf39501.webp?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

图解 Kafka 中的数据采集和统计机制

在讲解kafka限流机制之前 我想先讲解一下Kafka中的数据采集和统计机制你会不会好奇,kafka监控中,那些数据都是怎么计算出来的比如下图这些指标

https://static001.geekbang.org/infoq/f9/f99b693a516e8201e9ddf23020fda3ed.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

多图详解 kafka 生产者消息发送过程

KafkaProducer通过解析producer.propeties文件里面的属性来构造自己。例如 :分区器、Key和Value序列化器、拦截器、RecordAccumulator消息累加器 、元信息更新器、启动发送请求的后台线程

https://static001.geekbang.org/infoq/03/03c06bd50bb0b6ad90be1c3e9fcf4dd6.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

图解 Kafka 的服务端的网络通信模型

Kafka网络模型使用的是什么线程模型? 什么是ControllerPlane(控制器面板),什么是DataPlane(数据面板)? Kafka整个请求流程是什么样子的 与Kafka网络通信相关的配置。

Kafka实战_Kafka实战技术文章_InfoQ写作社区