锁的释放-获取建立的Happens-Before关系
锁是Java并发编程中最重要的同步机制。锁除了让临界区互斥执行外,还可以让释放锁的线程向获取同一个锁的线程发送消息。
下面是锁释放-获取的示例代码。1
2
3
4
5
6
7
8
9
10
11
12class MonitorExample {
int a = 0;
public synchronized void writer() { //1
a++; //2
} //3
public synchronized void reader() { //4
int i = a; //5
……
} //6
}
假设线程A执行writer()
,随后线程B执行reader()
。
根据happens-before
规则,这个过程包含的happens-before
关系可以分为两类。
- 根据程序次序规则,
1 happens-before 2
,2 happens-before 3
,4 happens-before 5
,5 happens-before 6
。 - 根据监视器锁规则,
3 happens-before 4
。 - 根据
happens-before
的传递性,2 happens-before 5
。
上述happens-before
关系的图形化表现形式如下。
在上图中,每一个箭头链接的两个节点,代表了一个happens-before
关系。黑色箭头表示程序顺序规则;橙色箭头表示监视器锁规则;蓝色箭头表示组合这些规则后提供的happens-before
保证。
上图表示在线程A释放了锁之后,随后线程B获取同一个锁。在上图中,2 happens-before 5
。因此,线程A在释放锁之前所有可见的共享变量,在线程B获取同一个锁之后,将立刻变得对B线程可见。
锁释放和获取的内存语义
当线程释放锁时,JMM会把该线程对应的本地内存中的共享变量刷新到主内存中(类似volatile
的写)。以上面的MonitorExample
程序为例,A线程释放锁后,共享数据的状态示意图如下。
当线程获取锁时,JMM会把该线程对应的本地内存置为无效(类似volatile
的读)。从而使得被监视器保护的临界区代码必须要从主内存中去读取共享变量。下面是锁获取的状态示意图。
对比锁释放-获取的内存语义与volatile
写-读的内存语义,可以看出:锁释放与volatile
写有相同的内存语义;锁获取与volatile
读有相同的内存语义。
下面对锁释放和锁获取的内存语义做个总结。
- 线程A释放一个锁,实质上是线程A向接下来将要获取这个锁的某个线程发出了(线程A对共享变量所做修改的)消息。
- 线程B获取一个锁,实质上是线程B接收了之前某个线程发出的(在释放这个锁之前对共享变量所做修改的)消息。
- 线程A释放锁,随后线程B获取这个锁,这个过程实质上是线程A通过主内存向线程B发送消息。
锁内存语义的实现
本文将借助ReentrantLock
的源代码,来分析锁内存语义的具体实现机制。1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23class ReentrantLockExample {
int a = 0;
ReentrantLock lock = new ReentrantLock();
public void writer() {
lock.lock(); //获取锁
try {
a++;
} finally {
lock.unlock(); //释放锁
}
}
public void reader () {
lock.lock(); //获取锁
try {
int i = a;
……
} finally {
lock.unlock(); //释放锁
}
}
}
在ReentrantLock
中,调用lock()
获取锁;调用unlock()
释放锁。ReentrantLock
的实现依赖于Java同步器框架AbstractQueuedSynchronizer
(本文简称之为AQS)。AQS使用一个整型的volatile
变量(命名为state
)来维护同步状态,马上我们会看到,这个volatile
变量是ReentrantLock
内存语义实现的关键。 下面是ReentrantLock
的类图(仅画出与本文相关的部分)。ReentrantLock
分为公平锁和非公平锁,我们首先分析公平锁。
ReentrantLock公平锁
使用公平锁时,加锁方法lock()
的调用轨迹如下。1
2
3
4ReentrantLock#lock()
FairSync#lock()
AbstractQueuedSynchronizer#acquire(int arg)
ReentrantLock#tryAcquire(int acquires)
在第4步真正开始加锁,下面是该方法的源代码。1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19protected final boolean tryAcquire(int acquires) {
final Thread current = Thread.currentThread();
int c = getState(); //获取锁的开始,首先读volatile变量state
if (c == 0) {
if (isFirst(current) &&
compareAndSetState(0, acquires)) {
setExclusiveOwnerThread(current);
return true;
}
}
else if (current == getExclusiveOwnerThread()) {
int nextc = c + acquires;
if (nextc < 0)
throw new Error("Maximum lock count exceeded");
setState(nextc);
return true;
}
return false;
}
从上面源代码中我们可以看出,加锁方法首先读volatile
变量state
。
在使用公平锁时,解锁方法unlock()
的调用轨迹如下。1
2
3ReentrantLock#unlock()
AbstractQueuedSynchronizer#release(int arg)
Sync#tryRelease(int releases)
在第3步真正开始释放锁,下面是该方法的源代码。1
2
3
4
5
6
7
8
9
10
11
12protected final boolean tryRelease(int releases) {
int c = getState() - releases;
if (Thread.currentThread() != getExclusiveOwnerThread())
throw new IllegalMonitorStateException();
boolean free = false;
if (c == 0) {
free = true;
setExclusiveOwnerThread(null);
}
setState(c); //释放锁的最后,写volatile变量state
return free;
}
从上面的源代码我们可以看出,在释放锁的最后写volatile
变量state
。
公平锁在释放锁的最后写volatile
变量state
;在获取锁时首先读这个volatile
变量。根据volatile
的happens-before
规则,释放锁的线程在写volatile
变量之前可见的共享变量,在获取锁的线程读取同一个volatile
变量后将立即变的对获取锁的线程可见。
ReentrantLock非公平锁
现在我们分析非公平锁的内存语义的实现。
非公平锁的释放和公平锁完全一样,所以这里仅仅分析非公平锁的获取(加锁)。
使用非公平锁时,加锁方法lock()
的方法调用轨迹如下。1
2
3ReentrantLock#lock()
NonfairSync#lock()
AbstractQueuedSynchronizer#compareAndSetState(int expect, int update)
在第3步真正开始加锁,下面是该方法的源代码。1
2
3protected final boolean compareAndSetState(int expect, int update) {
return unsafe.compareAndSwapInt(this, stateOffset, expect, update);
}
该方法以原子操作的方式更新state
变量,本文把Java的compareAndSet()
调用简称为CAS(具有volatile
读和volatile
写的内存语义)。JDK文档对该方法的说明如下:如果当前状态值等于预期值,则以原子方式将同步状态设置为给定的更新值。此操作具有 volatile
读和写的内存语义。
这里我们分别从编译器和处理器的角度来分析,CAS如何同时具有volatile
读和volatile
写的内存语义。
前文我们提到过,编译器不会对volatile
读与volatile
读后面的任意内存操作重排序;编译器不会对volatile
写与volatile
写前面的任意内存操作重排序。组合这两个条件,意味着为了同时实现volatile
读和volatile
写的内存语义,编译器不能对CAS与CAS前面和后面的任意内存操作重排序。
下面我们来分析在常见的intel x86处理器中,CAS是如何同时具有volatile
读和volatile
写的内存语义的。sun.misc.Unsafe#compareAndSwapInt()
的源代码。1
public final native boolean compareAndSwapInt(Object o, long offset,int expected,int x);
可以看到这是个本地方法调用。这个本地方法在openjdk中依次调用的C++代码为。unsafe.cpp
,atomic.cpp
和atomicwindowsx86.inline.hpp
。这个本地方法的最终实现在openjdk的如下位置: openjdk-7-fcs-src-b147-27jun2011\openjdk\hotspot\src\oscpu\windowsx86\vm\ atomicwindowsx86.inline.hpp
(对应于windows操作系统,X86处理器)。下面是对应于intel x86处理器的源代码的片段。1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20// Adding a lock prefix to an instruction on MP machine
// VC++ doesn't like the lock prefix to be on a single line
// so we can't insert a label after the lock prefix.
// By emitting a lock prefix, we can define a label after it.
#define LOCK_IF_MP(mp) __asm cmp mp, 0 \
__asm je L0 \
__asm _emit 0xF0 \
__asm L0:
inline jint Atomic::cmpxchg (jint exchange_value, volatile jint* dest, jint compare_value) {
// alternative for InterlockedCompareExchange
int mp = os::is_MP();
__asm {
mov edx, dest
mov ecx, exchange_value
mov eax, compare_value
LOCK_IF_MP(mp)
cmpxchg dword ptr [edx], ecx
}
}
如上面源代码所示,程序会根据当前处理器的类型来决定是否为cmpxchg
指令添加lock
前缀。如果程序是在多处理器上运行,就为cmpxchg
指令加上lock
前缀(lock cmpxchg
)。反之,如果程序是在单处理器上运行,就省略lock
前缀(单处理器自身会维护单处理器内的顺序一致性,不需要lock
前缀提供的内存屏障效果)。
intel的手册对lock前缀的说明如下
- 确保对内存的读-改-写操作原子执行。在Pentium及Pentium之前的处理器中,带有lock前缀的指令在执行期间会锁住总线,使得其他处理器暂时无法通过总线访问内存(同步总线)。很显然,这会带来昂贵的开销。从Pentium 4,Intel Xeon及P6处理器开始,intel在原有总线锁的基础上做了一个很有意义的优化:如果要访问的内存区域(Area Of Memory)在
lock
前缀指令执行期间已经在处理器内部的缓存中被锁定(即包含该内存区域的缓存行当前处于独占或以修改状态),并且该内存区域被完全包含在单个缓存行(Cache Line)中,那么处理器将直接执行该指令。由于在指令执行期间该缓存行会一直被锁定,其它处理器无法读/写该指令要访问的内存区域,因此能保证指令执行的原子性。这个操作过程叫做缓存锁定(Cache Locking),缓存锁定将大大降低lock前缀指令的执行开销,但是当多处理器之间的竞争程度很高或者指令访问的内存地址未对齐时,仍然会锁住总线。 - 禁止该指令与之前和之后的读和写指令重排序。(
volatile
特性) - 把写缓冲区中的所有数据刷新到内存中。(
volatile
特性)
上面的第2点和第3点所具有的内存屏障效果,足以同时实现volatile
读和volatile
写的内存语义。
经过上面的这些分析,现在我们终于能明白为什么JDK文档说CAS同时具有volatile
读和volatile
写的内存语义了。
公平锁和非公平锁的内存语义总结
- 公平锁和非公平锁释放时,最后都要写一个
volatile
变量state
。 - 公平锁获取时,首先会去读这个
volatile
变量。 - 非公平锁获取时,首先会用CAS更新这个
volatile
变量,这个操作同时具有volatile
读和volatile
写的内存语义。
从本文对ReentrantLock
的分析可以看出,锁释放-获取的内存语义的实现至少有下面两种方式。
- 利用
volatile
变量的写-读所具有的内存语义。 - 利用CAS所附带的
volatile
读和volatile
写的内存语义。Concurrent包的实现
由于Java的CAS同时具有volatile
读和volatile
写的内存语义,因此Java线程之间的通信现在有了下面四种方式。- A线程写
volatile
变量,随后B线程读这个volatile
变量。 - A线程写
volatile
变量,随后B线程用CAS更新这个volatile
变量。 - A线程用CAS更新一个
volatile
变量,随后B线程用CAS更新这个volatile
变量。 - A线程用CAS更新一个
volatile
变量,随后B线程读这个volatile
变量。
- A线程写
Java的CAS会使用现代处理器上提供的高效机器级别原子指令,这些原子指令以原子方式对内存执行读-改-写操作,这是在多处理器中实现同步的关键(从本质上来说,能够支持原子性读-改-写指令的计算机器,是顺序计算图灵机的异步等价机器,因此任何现代的多处理器都会去支持某种能对内存执行原子性读-改-写操作的原子指令)。
同时,volatile
变量的读/写和CAS可以实现线程之间的通信。把这些特性整合在一起,就形成了整个concurrent
包得以实现的基石。如果我们仔细分析concurrent
包的源代码实现,会发现一个通用化的实现模式。
首先,声明共享变量为volatile
。
然后,使用CAS的原子条件更新来实现线程之间的同步。
同时,配合以volatile
的读/写和CAS所具有的volatile
读和写的内存语义来实现线程之间的通信。
AQS,非阻塞数据结构和原子变量类(Java.util.concurrent.atomic
包中的类),这些concurrent
包中的基础类都是使用这种模式来实现的,而concurrent
包中的高层类又是依赖于这些基础类来实现的。从整体来看,concurrent
包的实现示意图如下。
参考
- 深入理解Java内存模型