第十二期双周精选
社区贡献者名单
祝贺 @lifepuzzlefun 成为我们的活跃共享者:
@lifepuzzlefun:#1411、#1447、#1469、#1487、#1493、#1507、#1513、#1518、#1521、#1522、#1535
欢迎 @yx9o、@jitokim、@wensongz、@vintagewang、@sullis、@szepeviktor、@llzcx 和 @mapan1984 为社区注入了新鲜的血液,并成功合并了首个 PR。
AutoMQ 主干动态
Direct On S3 抢先体验
https://github.com/AutoMQ/automq/releases/tag/1.2.0-beta0
Direct on S3 抢先体验版发布!无磁盘管理、99.999999999% 数据持久性、“零开销” AZ 级容灾,仅需修改一行配置项即可体验。
10w 分区 10GiB/s 大规模集群元数据优化
#1419 #1464
S3Object 和 S3StreamMetadata 在 Delta 和 Image 中的内存数据结构替换成 TimelineHashMap,避免元数据频繁变更引发 Map 拷贝;
StreamSetObject 内存索引信息卸载到对象存储,降低 KRaft 元数据内存占用和 Checkpoint 空间占用;
阶段性优化结果:AutoMQ 可以在 10w 活跃写入分区、7GiB/s 写入流量和 90 个 2C16G 节点规模下稳定运行。KRaft Checkpoint 空间占用从 600MiB 下降到 100MiB;
新增 Composite Object 类型
#1432 #1437 #1443
Composite Object 将多个物理 Object 通过软链的形式逻辑合并成一个大的 Object,底层的物理 Object 保持 4MB 左右的大小,而 Composite Object 逻辑上可以软链 10 GiB 的数据量;
Compaction 基于 Composite Object 无需创建 MultiPart Object 和使用 UploadPartCopy API,可以获得更快的合并速度、更低的合并成本;
优化结果:Compaction API 调用成本和 Compaction 耗时仅为原来物理合并的 10%;
评论