写点什么

Kafka 的 Topic 和 Partition 是不是有个数限制?

  • 2021 年 12 月 23 日
  • 本文字数:266 字

    阅读完需:约 1 分钟

Topic 官方没有给具体建议数字,我们之前的最佳实践一个集群上有 2W+ Topic 无压力

Partition 官方给过一个公式可以参考:

每个 Broker 的 Partition 数量最好限制在 100 × b × r(b 是 Broker 数,r 是 Partition 副本数),滴滴的最佳实践是单节点 Parttion 不易超过 1000 个,大量小文件容易导致 HDD 盘的读写性能下降

如果 Partiton 数过多,对于 0.10.X 版本的元数据处理有性能瓶颈(主要是频繁读写 ZK 导致),之后的集群版本支持几十 W Partiton 没啥问题


博主简介:国内最大最权威的 Kafka 中文社区,共享知识,实时掌控最新行业资讯

技术交流:请联系博主微信号:didiyun0125

社区地址:免费加入中 ~


发布于: 2021 年 12 月 23 日
用户头像

还未添加个人签名 2021.12.13 加入

还未添加个人简介

评论

发布
暂无评论
Kafka的Topic和Partition是不是有个数限制?