系列文章:
前一章中,我们描述了volatile 和 synchronized的实现原理,本篇介绍原子操作特性、
一 相关定义
1.1 缓存行(Cache line)
通过前面学习,已经知道cpu的多级缓存结构,缓存行是缓存的最小操作单位。
1.2 CAS
即Compare And Swap,比较并交换。java的unsafe包中提供了相关方法。
1.3 CPU流水线
CPI pipeline,工作方式类似工业生产上的装配流水线,CPU中多个不同功能的单元组成一条指令流水线。一条指令可能会被分为5-6个步骤之后再分别执行,来实现一个CPU时钟周期内完成一条指令,提高运算速度。
1.4 内存顺序冲突
Memory order violation。一般是由“假共享”引起。假共享,是指多CPU同时修改一个缓存行的不同部分,导致其中一个CPU的操作无效。出现内存顺序冲突时,CPU必须清空流水线。
二 操作系统中原子操作的实现原理
CPU提供两个机制来保证复杂内存操作的原子性:总线锁定 和 缓存锁定。
2.1 总线锁
先研究一个典型案例:i++。当两个CPU中同时对共享变量i执行++操作时,我们预期结果是i=3,但实际的结果可能是2:
为什么会出现这样的情况?(回想上一篇文章中提到过的cpu缓存结构),各CPU可能同时从自己的缓存中读取变量i的值,分别进行加1操作,再分别写入系统内存。要保证i++底层操作的原子性,就必须保证CPU1修改共享变量时,CPU2不能同时执行修改操作。
所谓总线锁,就是CPU提供LOCK#信号,当某个CPU在总线上输出这个信号时,其他CPU请求会被阻塞。
关于总线,再回顾一下CPU多级缓存结构,下图中的Bus就是总线:
另外,这个LOCK信号是否有点眼熟?这就是前篇中的:
2.2 缓存锁
总线锁是通过锁住总线来确保某个CPU可以独占共享内存,这样锁的开销其实是比较大的。这会导致锁定期间其他CPU无法操作其他内存地址的数据。其他CPU其实也可以考虑,只需要保证某个时刻对一个固定的内存地址的操作是原子性的即可,这样就降低了锁的粒度。
频繁使用的内存(数据)会缓存在CPU的L1、L2,L3级缓存,所以原子操作可以在各级缓存中进行。
缓存锁定,是指内存区域如果被缓存在CPU的缓存行中,并且在Lock操作期间被锁定,那么当执行锁操作回写内存时,CPU不能在总线上声言LOCK#新号,而是修改内存的内存地址,并通过缓存一致性机制阻止同时修改由两个及两个以上CPU缓存的内存区域数据,当其他CPU回写已被锁定的缓存行的数据时,使缓存行无效。
2.3 缓存行不会被使用的场景
1、操作的数据不能被缓存在CPU的缓存内,或操作的数据跨多个缓存行时,CPU会调用总线锁定;
2、有些CPU不支持缓存锁定。已知这类的CPU:Intel 486和Pentium,就算锁定的内存区域在处理器的缓存行中,也会调用总线锁定。
三 Java中的原子操作实现
两种方式:锁机制 和 CAS。
3.1 锁机制
锁机制,要求只有获得了锁的线程才能操作锁定的内存区域。JVM中的锁包括偏向锁、轻量级锁和重量级锁(互斥锁)。从具体类或命令的角度说,有最常用的synchronized 和 Lock。
3.2 CAS
JVM中的CAS是利用CPU提供的CMPXCHG指令来实现的,通常会配合“自旋”使用,即循环进行CAS直到成功为止。
jdk1.5之后,在并发包中提供了诸如AtomickInteger、AtomicLong等方法来执行对应类型变量的原子更新。
CAS存在的问题:
1、ABA
这也是了解过CAS都知道的典型问题。“比较”,是检查值是否发生了变化,但当一个变量原来的值是A,先变成B后又变成A,这种情况CAS的检查机制会误判为没有发生变化。
解决思路:使用版本号。每次更新时把版本号加1,A->B->A就变成 1A->2B->3A。jdk1.5及以后,Atomic包中提供了类AtomicStampedReference来解决ABA。结构如下:
/** * Atomically sets the value of both the reference and stamp * to the given update values if the * current reference is {@code ==} to the expected reference * and the current stamp is equal to the expected stamp. * * @param expectedReference the expected value of the reference * @param newReference the new value for the reference * @param expectedStamp the expected value of the stamp * @param newStamp the new value for the stamp * @return {@code true} if successful */ public boolean compareAndSet(V expectedReference, V newReference, int expectedStamp, int newStamp) { Pair<V> current = pair; return expectedReference == current.reference && expectedStamp == current.stamp && ((newReference == current.reference && newStamp == current.stamp) || casPair(current, Pair.of(newReference, newStamp))); }
V expectedReference => 预期引用 ,
V newReference => 更新后的引用,
int expectedStamp => 预期标志,
int newStamp => 更新后的标志。
2、循环时间长开销大
循环是为了保证占用CPU,从而避免上下文切换带来的时间消耗。但这会导致一直占用CPU资源。
3、只保证一个共享变量的原子操作
这点是比较好理解的,因为比较、替换都是针对一个变量的操作,所以不适用多个共享变量同时操作的场景。这种情况通常还是会通过锁来实现;或者也可以取巧把多个共享变量合成一个共享变量来操作。
四 总结
本篇把原子操作单独拿出来详细阐述,结合前面两篇文章中的CPU多级缓存结构进行串联,加深理解。下一篇会全面研究Java的内存模型。