写点什么

数据分片

0 人感兴趣 · 9 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/e1/e18143ed7367df766d5290e3c770abc4.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

国际财务系统基于 ShardingSphere 的数据分片和一主多从实践

传统的将数据集中存储至单一数据节点的解决方案,在性能和可用性方面已经难于满足海量数据的场景,系统最大的瓶颈在于单个节点读写性能,许多的资源受到单机的限制,例如连接数、网络IO、磁盘IO等,从而导致它的并发能力不高,对于高并发的要求不满足。

https://static001.geekbang.org/infoq/6f/6f1a946f982cb623c4e8b58e1992c903.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

Clickhouse 表引擎探究 -ReplacingMergeTree

MergeTree 系列的引擎被设计用于插入极大量的数据到一张表当中。数据可以以数据片段的形式一个接着一个的快速写入,数据片段在后台按照一定的规则进行合并。相比在插入时不断修改(重写)已存储的数据,这种策略会高效很多。

https://static001.geekbang.org/infoq/f2/f2cd37982f237516acaa1eeb7c6a8fe9.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

基于 Spring-AOP 的自定义分片工具

​随着数据量的增长,发现系统在与其他系统交互时,批量接口会出现超时现象,发现原批量接口在实现时,没有做分片处理,当数据过大时或超过其他系统阈值时会出现错误。由于与其他系统交互较多,一个个接口做分片优化改动量较大,所以考虑通过AOP解决此问题。

https://static001.geekbang.org/infoq/5a/5a27ff9abad84966b254ebc0fc2f9121.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

以寡治众各个击破,超大文件分片上传之构建基于 Vue.js3.0+Ant-desgin+Tornado6 纯异步 IO 高效写入服务

分治算法是一种很古老但很务实的方法。本意即使将一个较大的整体打碎分成小的局部,这样每个小的局部都不足以对抗大的整体。战国时期,秦国破坏合纵的连横即是一种分而治之的手段;。

数据分片的原则和经验

用户头像
编程宝库
2021-11-16

本文提供了一些数据分片的一些原则和经验,遵循这些提示,有助于确保数据正确的分片,而不是阻碍你的应用程序的可扩展性。

https://static001.geekbang.org/infoq/3a/3af8bd10f1ebaf08b51c81e2b554f38f.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

深入了解 Spring 之 Spring Batch 框架

用户头像
邱学喆
2021-07-13

spring batch是spring提供的一个数据处理框架,其功能包括记录/跟踪,事务管理,作业统计,作业重启,跳过和资源管理等。它还提供了更高级的技术服务和功能,通过优化和分区技术实现极高容量和高性能的批处理作业。

https://static001.geekbang.org/infoq/dd/dd9a7b0d11cdfe96a2e8b5d962a679a1.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

知乎高赞: 为什么同样是分布式架构的 Kafka 需要 Leader 而 Redis 不需要

Redis不需要Leader这个观点其实有歧义,是不准确的,这个问题本质其实是涉及数据分片、数据副本一致性,接下来将为大家一一解答。

数据分片_数据分片技术文章_InfoQ写作社区