Kafka 的 Topic 和 Partition 是不是有个数限制?
Topic 官方没有给具体建议数字,我们之前的最佳实践一个集群上有 2W+ Topic 无压力
Partition 官方给过一个公式可以参考:
每个 Broker 的 Partition 数量最好限制在 100 × b × r(b 是 Broker 数,r 是 Partition 副本数),滴滴的最佳实践是单节点 Parttion 不易超过 1000 个,大量小文件容易导致 HDD 盘的读写性能下降
如果 Partiton 数过多,对于 0.10.X 版本的元数据处理有性能瓶颈(主要是频繁读写 ZK 导致),之后的集群版本支持几十 W Partiton 没啥问题
博主简介:国内最大最权威的 Kafka 中文社区,共享知识,实时掌控最新行业资讯
技术交流:请联系博主微信号:didiyun0125
社区地址:免费加入中 ~
版权声明: 本文为 InfoQ 作者【Kafka中文社区】的原创文章。
原文链接:【http://xie.infoq.cn/article/08d4c4754602758e321d9dfe7】。文章转载请联系作者。
评论