关于 Kafka 分区 leader 迁移的感想
🦌 提问:
kafka 的 Topic 的 Configs:leader.replication.throttled.replicas 与 follower.replication.throttled.replicas 不为空是什么原因造成的,应该如何进行解决?如果在 zk 中进行操作如何进行设置呢?
1. 这个动态配置的意思是 leader 副本和 follower 副本直接的限流关系 比如图片展示的这种
2. 出现这个配置一般原因是 你在做分区副本重分配的时候执行了限流操作 --throttle 一般出现这两个配置的同时还会伴随着 另外两个配置 leader.replication.throttled.rate follower.replication.throttled.rate
3. 解决方案: 想要去掉这个限流,只需要等待 分区副本重分配执行完毕之后 再次执行一下 --verify 就会把限流值给自动去掉了
4. 假设你的迁移任务已经结束,你忘记了 --verify,那么这个限流会一直存在,并且如果你的 迁移 json 文件也找不到了,那么你可以手动通过 修改动态配置来手动移除,具体操作如下:
①. 通过 kafka-config.sh 查找到 对应的限流信息相关信息 下面的动态配置在 zk 节点 /config/brokers/{BrokerId}
leader.replication.throttled.rate
follower.replication.throttled.rate
②下面的动态配置在 zk 节点/config/topics/{topicName}
leader.replication.throttled.replicas
follower.replication.throttled.replicas
③找到之后呢 就可以用 kafka-config.sh 把这个动态配置删除掉就行了
涉及到的知识点
1. 分区副本重分配 源码解析 分区副本重分配源码原理分析(附配套教学视频) | 石臻臻的杂货铺
2. kafka 的动态配置源码解析 Kafka中的动态配置源码分析 | 石臻臻的杂货铺
3. kafka 动态配置如何使用 【kafka运维】Kafka全网最全最详细运维手册!! | 石臻臻的杂货铺
博主简介:国内最大最权威的 Kafka 中文社区,共享知识,实时掌控最新行业资讯
技术交流:请联系博主微信号:didiyun0125
社区地址:免费加入中 ~
版权声明: 本文为 InfoQ 作者【Kafka中文社区】的原创文章。
原文链接:【http://xie.infoq.cn/article/d128e27dc92ac1187d9183be8】。文章转载请联系作者。
评论