写点什么

真实字节二面:什么是伪共享?

用户头像
艾小仙
关注
发布于: 2021 年 03 月 01 日
真实字节二面:什么是伪共享?

这个问题来自最近一个朋友字节面试碰到的,最后他也成功拿到了字节 offer,这个问题我想可能挺多人不太清楚,所以想拿出来单独说一说。


好了,让我们进入正题。


什么是伪共享


首先大家都知道,随着 CPU 和内存的发展速度差异的问题,导致 CPU 的速度远远快于内存,所以一般现在的 CPU 都加入了高速缓存,就是常说的解决不同硬件之间的性能差异问题。


这样的话,很简单的道理,加入了缓存,就必然会导致缓存一致性的问题,由此,又引入了缓存一致性协议。(如果你不知道,建议去百度一下,这里不做展开)


CPU 缓存,顾名思义,越贴近 CPU 的缓存速度越快,容量越小,造价成本也越高,而高速缓存一般可以分为 L1、L2、L3 三级缓存,按照性能的划分:L1>L2>L3。



而事实上,数据在缓存内部都是按照来存储的,这就叫做缓存行。缓存行一般都是 2 的整数幂个字节,一般来说范围在 32-256 个字节之间,现在最为常见的缓存行的大小在 64 个字节。


所以,按照这个存储方式,缓存中的数据并不是一个个单独的变量的存储方式,而是多个变量会放到一行中。


我们常说的一个例子就是数组和链表,数组的内存地址是连续的,当我们去读取数组中的元素时,CPU 会把数组中后续的若干个元素也加载到缓存中,以此提高效率,但是链表则不会,也就是说,内存地址连续的变量才有可能被放到一个缓存行中


在多个线程并发修改一个缓存行中的多个变量时,由于只能同时有一个线程去操作缓存行,将会导致性能的下降,这个问题就称之为伪共享


为什么只有一个线程能去操作?我们举个实际的栗子来说明这种情况:


假设缓存中有x,y两个变量,他们同时已经在不同的三级缓存之中。


这时有两个线程 A 和 B 同时去修改位于 Core1 和 Core2 的变量xy


如果线程 A 去修改 Core1 的缓存中的x变量,由于缓存一致性协议,Core2 中对应的缓存了x,y变量的缓存行将会失效,他会被强制从主内存中重新去加载变量。


这样的话,频繁的访问主内存,缓存基本都失效了,将会导致性能的下降,这就是伪共享的问题。



如何避免?


既然已经知道了什么是伪共享,那么怎么避免这种情况的发生?


改变行存储的方式?想都别想了。


剩下可行的方法就是填充,如果这一行只有我这一个数据那不就好了吗?


确实就是这样,解决方式通常有以下两种。


字节填充


在 JDK8 之前,可以通过填充字节的方式来避免伪共享的问题,如下代码所示:



一般而言,缓存行有 64 字节,我们知道一个 long 是 8 个字节,填充 5 个 long 之后,一共就是 48 个字节。


而 Java 中对象头在 32 位系统下占用 8 个字节,64 位系统下占用 16 个字节,这样填充 5 个 long 型即可填满 64 字节,也就是一个缓存行。


@Contented 注解


JDK8 以及之后的版本 Java 提供了sun.misc.Contended 注解,通过 @Contented 注解就可以解决伪共享的问题。



使用 @Contented 注解后会增加 128 字节的 padding,并且需要开启-XX:-RestrictContended选项后才能生效。


所以,通过以上两种方式你会发现,对象头大小和缓存行的大小都和操作系统位数有关,JDK 的注解帮你解决了这个问题,所以推荐尽量使用注解的方式来实现。


虽然解决了伪共享问题,但是这种填充的方式也浪费了缓存资源,明明只有 8B 的大小,硬是使用了 64B 缓存空间,造成了缓存资源的浪费。


而且我们知道,缓存又小又贵,时间和空间的取舍要自己酌情考虑。


实际应用


在 Java 中提供了多个原子变量的操作类,就是比如AtomicLongAtomicInteger这些,通过 CAS 的方式去更新变量,但是失败会无限自旋尝试,导致 CPU 资源的浪费。


为了解决高并发下的这个缺点,JDK8 中新增了LongAdder类,他的使用就是对解决伪共享的实际应用。


LongAdder继承自Striped64,内部维护了一个Cell数组,核心思想就是把单个变量的竞争拆分,多线程下如果一个Cell竞争失败,转而去其他Cell再次 CAS 重试。



解决伪共享的真正的核心就在Cell数组,可以看到,Cell数组使用了Contented注解。


在上面我们提到数组的内存地址都是连续的,所以数组内的元素经常会被放入一个缓存行,这样的话就会带来伪共享的问题,影响性能。


这里使用Contented进行填充,就避免了伪共享的问题,使得数组中的元素不再共享一个缓存行。



好了,今天的内容就到这里,我是艾小仙,我的 slogan 还没想好,但是我们下次见。


发布于: 2021 年 03 月 01 日阅读数: 26
用户头像

艾小仙

关注

公众号:艾小仙。阿里P7,编程修仙 2020.09.01 加入

公众号:科技缪缪

评论

发布
暂无评论
真实字节二面:什么是伪共享?