如何做好高并发系统设计,我总结了三点
hello,大家好,我是张张,「架构精进之路」公号作者。
大家在面试中是不是经常被问到一个问题:“如果你系统的流量增加 N 倍你要怎么重新设计你的系统?”
这个高并发的问题可以从多个层面去解,主要包括以下几点。
1、代码层面
锁优化(采用无锁数据结构),主要是 concurrent 包下面的关于 AQS 锁的一些内容
数据库缓存设计(降低数据库并发争抢压力),这里又会有缓存、DB 数据不一致的问题,在实际使用中,高并发系统和数据一致性系统采用的策略会截然相反。
数据更新时采用合并更新,可以在应用层去做更新合并,同一个 Container 在同一时间只会有一个 DB 更新请求。
其他的比如基于 BloomFilter 的空间换时间、通过异步化降低处理时间、通过多线程并发执行等等。
2、数据库层面
根据不同的存储诉求来进行不同的存储选型,从早期的 RDBMS,再到 NoSql(KV 存储、文档数据库、全文索引引擎等等),再到最新的 NewSql(TiDB、Google spanner/F1 DB)等等。表数据结构的设计,字段类型选择与区别。
索引设计,需要关注聚簇索引原理与覆盖索引消除排序等,至于最左匹配原则都是烂大街的常识了,高级一点索引消除排序的一些机制等等,B+树与 B 树的区别。
最后的常规手段:分库分表、读写分离、数据分片、热点数据拆分等等,高并发往往会做数据分桶,这里面往深了去说又有很多,比如分桶如何初始化、路由规则、最后阶段怎么把数据合并等等,比较经典的方式就是把桶分成一个主桶+N 个分桶。
3、架构设计层面
分布式系统为服务化
无状态化支持水平弹性扩缩容
业务逻辑层面 failfast 快速失败
调用链路热点数据前置
多级缓存设计
提前容量规划等等
总结
所谓高并发,常常意味着大流量,需要运用技术手段抵抗流量的冲击,这些手段好比操作流量,能让流量更平稳地被系统所处理,带给用户更好的体验。
高并发确实是一个复杂且系统性的问题,由于篇幅有限,诸如分布式 Trace、全链路压测、柔性事务都是要考虑的技术点。另外,如果业务场景不同,高并发的落地方案也会存在差异,但是总体的设计思路和可借鉴的方案基本类似。
高并发设计同样要秉承架构设计的 3 个原则:简单、合适和严谨。
不能脱离业务的实际情况,更不要过度设计,合适的方案就是最完美的。
本文首发于「架构精进之路」公号, 如何做好高并发系统设计,我总结了三点
💪🏻 坚持原创分享有价值的干货技术文章!
Thanks for reading!
版权声明: 本文为 InfoQ 作者【架构精进之路】的原创文章。
原文链接:【http://xie.infoq.cn/article/6be766f0b5a5a2f6e26ed3484】。文章转载请联系作者。
评论