深入理解JVM:线程安全与锁优化
线程安全
《Java并发编程实战(Java Concurrency In Practice)》的作者Brian Goetz对“线程安全”的定义:
“当多个线程同时访问一个对象时,如果不用考虑这些线程在运行时环境下的调度和交替执行,也不需要进行额外的同步,或者在调用方进行任何其他的协调操作,调用这个对象的行为都可以获得正确的结果,那就称这个对象是线程安全的。”
Java语言中的线程安全
按照线程安全的“安全程度”由强至弱来排序,可以将Java语言中各种操作共享的数据分为以下五类:“不可变”、“绝对线程安全”、“相对线程安全”、“线程兼容”和“线程对立”。
不可变
在Java语言里面(特指JDK 5以后,即Java内存模型被修正之后的Java语言),不可变(Immutable)的对象一定是线程安全的,无论是对象的方法实现还是方法的调用者,都不需要再进行任何线程安全保障措施。
不可变数据:
- 如果共享数据是一个基本数据类型:只要在定义时使用final关键字修饰它就可以保证它是不可变的。
- 如果共享数据是一个对象:需要对象自行保证其行为不会对其状态产生任何影响才行。
- 可以类比java.lang.String类的对象实例,它是一个典型的不可变对象,用户调用它的substring()、replace()和concat()这些方法都不会影响它原来的值,只会返回一个新构造的字符串对象。
Java类库API中不可变类型:
除了上面提到的String之外,常用的还有枚举类型及java.lang.Number的部分子类,如Long和Double等数值包装类型、BigInteger和BigDecimal等大数据类型。
- (但同为Number子类型的原子类AtomicInteger和AtomicLong则是可变的)
绝对线程安全
绝对线程安全:“不管运行时环境如何,调用者都不需要任何额外的同步措施”。
- 在Java API中标注线程安全的类,大多数都不是绝对的线程安全。(使用这些类时,在方法调用端可能仍需要做额外的同步措施)
相对线程安全
相对线程安全,就是通常意义上所讲的“线程安全”:
- 需要保证对这个对象单次的操作是线程安全的,在调用的时候不需要进行额外的保障措施,
- 但是对于一些特定顺序的连续调用,就可能需要在调用端使用额外的同步手段来保证调用的正确性。
- 在Java语言中,大部分声称线程安全的类都属于这种类型,例如Vector、HashTable、Collections的synchronizedCollection()方法包装的集合等。
线程兼容
线程兼容,即通常意义的“线程不安全”,指对象本身并不是线程安全的,但是可以通过在调用端正确地使用同步手段来保证对象在并发环境中可以安全地使用。
线程对立
线程对立是指不管调用端是否采取了同步措施,都无法在多线程环境中并发使用代码。
- 由于Java语言天生就支持多线程的特性,线程对立这种排斥多线程的代码是很少出现的,而且通常都是有害的,应当尽量避免。
- 常见的线程对立的操作:Thread类的suspend()和resume()方法,还有System.setIn()、Sytem.setOut()和System.runFinalizersOnExit()等。
线程安全的实现方法
互斥同步
互斥同步(Mutual Exclusion & Synchronization)是最常见也是最主要的并发正确性保障手段。
- 同步:是指在多个线程并发访问共享数据时,保证共享数据在同一个时刻只被一条(或者是一些,当使用信号量的时候)线程使用。
- 互斥是实现同步的一种手段,临界区(Critical Section)、互斥量(Mutex)和信号量(Semaphore)都是常见的互斥实现方式。
- 互斥同步面临的主要问题是进行线程阻塞和唤醒所带来的性能开销,因此这种同步也被称为阻塞同步(Blocking Synchronization)。
synchronized:
(最基本的互斥同步手段就是synchronized关键字,是一种块结构(BlockStructured)的同步语法。) synchronized关键字经过Javac编译之后,会在同步块的前后分别形成“monitorenter”和“monitorexit”这两个字节码指令。
- 这两个字节码指令都需要一个reference类型的参数来指明要锁定和解锁的对象。
- 如果Java源码中的synchronized明确指定了对象参数,那就以这个对象的引用作为reference;
- 如果没有明确指定,那将根据synchronized修饰的方法类型(如实例方法或类方法),来决定是取代码所在的对象实例还是取类型对应的Class对象来作为线程要持有的锁。
执行过程:
- “根据《Java虚拟机规范》的要求,在执行monitorenter指令时,首先要去尝试获取对象的锁。如果这个对象没被锁定,或者当前线程已经持有了那个对象的锁,就把锁的计数器的值增加一,而在执行monitorexit指令时会将锁计数器的值减一。一旦计数器的值为零,锁随即就被释放了。如果获取对象锁失败,那当前线程就应当被阻塞等待,直到请求锁定的对象被持有它的线程释放为止。”
- 被synchronized修饰的同步块对同一条线程来说是可重入的。
- 被synchronized修饰的同步块在持有锁的线程执行完毕并释放锁之前,会无条件地阻塞后面其他线程的进入。(无法响应中断)
- 从执行成本的角度看,持有锁是一个重量级(Heavy-Weight)的操作。
- “主流Java虚拟机实现中,Java的线程是映射到操作系统的原生内核线程之上的,如果要阻塞或唤醒一条线程,则需要操作系统来帮忙完成,这就不可避免地陷入用户态到核心态的转换中,进行这种状态转换需要耗费很多的处理器时间。”
ReentrantLock:
- 自JDK 5起(实现了JSR 166[1]),Java类库中新提供了“java.util.concurrent”包(下文称J.U.C包),其中的“java.util.concurrent.locks.Lock”接口便成了Java的另一种全新的互斥同步手段。
- 基于Lock接口,用户能够以非块结构(Non-Block Structured)来实现互斥同步,从而摆脱了语言特性的束缚,改为在类库层面去实现同步,这也为日后扩展出不同调度算法、不同特征、不同性能、不同语义的各种锁提供了广阔的空间。
重入锁(ReentrantLock)是Lock接口最常见的一种实现,它与synchronized一样是可重入的。在基本用法上,ReentrantLock也与synchronized很相似,只是代码写法上稍有区别而已。不过,ReentrantLock与synchronized相比增加了一些高级功能,主要有以下三项:“等待可中断”、可实现“公平锁”及锁可以“绑定多个条件”。
- “等待可中断”:指当持有锁的线程长期不释放锁的时候,正在等待的线程可以选择放弃等待,改为处理其他事情。
- “公平锁”:是指多个线程在等待同一个锁时,必须按照申请锁的时间顺序来依次获得锁;(“非公平锁”则不保证这一点,在锁被释放时,任何一个等待锁的线程都有机会获得锁。)
- synchronized中的锁是非公平的;
- ReentrantLock在默认情况下也是非公平的,但可以通过带布尔值的构造函数要求使用公平锁;
- 一旦使用了公平锁,将会导致ReentrantLock的性能急剧下降,会明显影响吞吐量;
- “锁绑定多个条件”:是指一个ReentrantLock对象可以同时绑定多个Condition对象。
- 在synchronized中,锁对象的wait()跟它的notify()或者notifyAll()方法配合可以实现一个(仅)隐含的条件;
- 而ReentrantLock则无须这样做,多次调用“newCondition()”方法即可:
class Bank { ReentrantLock lock = new ReentrantLock(); private Condition sufficientFunds; public Bank() { sufficientFunds = lock.newCondition(); } public void transfer(int from, int to, int amount) { lock.lock(); try { while (accounts[from] < amount) sufficientFunds.await(); // transfer funds ... sufficientFunds.signalAll(); } finally { lock.unlock(); } } }
synchronized 与 ReentrantLock 的比较
(JDK 5、单核处理器及双Xeon处理器环境下做了一组吞吐量对比的实验)
- 性能已经不再是选择synchronized或者ReentrantLock的决定因素:JDK 6中加入了大量针对synchronized锁的优化措施之后,相同的测试中synchronized与ReentrantLock的性能基本上能够持平。
非阻塞同步
阻塞同步:
- 互斥同步属于一种悲观的并发策略,其总是认为只要不去做正确的同步措施(例如加锁),那就肯定会出现问题,无论共享的数据是否真的会出现竞争,它都会进行加锁,这将会导致用户态到核心态转换、维护锁计数器和检查是否有被阻塞的线程需要被唤醒等开销。互斥同步面临的主要问题是进行线程阻塞和唤醒所带来的性能开销。
非阻塞同步(Non-Blocking Synchronization):基于冲突检测的乐观并发策略,
- 不管风险,先进行操作,如果没有其他线程争用共享数据,那操作就直接成功了;
- 如果共享的数据的确被争用,产生了冲突,那再进行其他的补偿措施;(最常用的补偿措施是不断地重试,直到出现没有竞争的共享数据为止)
这种乐观并发策略的实现不再需要把线程阻塞挂起,因此被称为非阻塞同步,使用这种措施的代码也常被称为无锁(Lock-Free)编程。
使用乐观并发策略需要“硬件指令集的发展”:硬件保证某些从语义上看起来需要多次操作的行为可以只通过一条处理器指令就能完成。如:
- 测试并设置(Test-and-Set);
- 获取并增加(Fetch-and-Increment);
- 交换(Swap);
- 比较并交换(Compare-and-Swap,CAS);
- 加载链接/条件储存(Load-Linked/Store-Conditional,LL/SC)。
- 其中,后面的两条是现代处理器新增的。
“CAS”:CAS指令需要有三个操作数,分别是“内存位置”(在Java中可以简单地理解为变量的内存地址,用V表示)、“旧的预期值”(用A表示)和“准备设置的新值”(用B表示)。
- CAS指令执行时,当且仅当V符合A时,处理器才会用B更新V的值,否则它就不执行更新。但是,不管是否更新了V的值,都会返回V的旧值,上述的处理过程是一个原子操作,执行期间不会被其他线程中断。
- 在JDK 5之后,Java类库中才开始使用CAS操作,该操作由“sun.misc.Unsafe”类里面的“compareAndSwapInt()”和“compareAndSwapLong()”等几个方法包装提供。
- HotSpot虚拟机在内部对这些方法做了特殊处理:即时编译出来的结果就是一条平台相关的处理器CAS指令,没有方法调用的过程,或者可以认为是无条件内联进去了。
- 不过由于Unsafe类在设计上就不是提供给用户程序调用的类(Unsafe::getUnsafe()的代码中限制了只有启动类加载器(Bootstrap ClassLoader)加载的Class才能访问它),因此在JDK 9之前只有Java类库可以使用CAS,譬如J.U.C包里面的整数原子类,其中的“compareAndSet()”和“getAndIncrement()”等方法都使用了Unsafe类的CAS操作来实现。而如果用户程序也有使用CAS操作的需求,那要么就采用反射手段突破Unsafe的访问限制,要么就只能通过Java类库API来间接使用它。
- JDK 9之后,Java类库才在“VarHandle”类里开放了面向用户程序使用的CAS操作。
“CAS”操作的“ABA”问题:变量V初次读取的时候是A,并且在准备赋值的时候检查到它仍然为A,但在期间它的值曾经被改成B,后来又被改回为A,而CAS操作会误认为它从来没有被改变过。
- J.U.C包为了解决这个问题,提供了一个带有标记的原子引用类“AtomicStampedReference”,它可以通过控制变量值的版本来保证CAS的正确性。
- 但,大部分情况下ABA问题不会影响程序并发的正确性,如果需要解决ABA问题,改用传统的互斥同步可能会比原子类更为高效。
无同步方案
同步与线程安全两者没有必然的联系:
- 如果方法设计共享数据,同步就是并发操作时保障线程安全的手段;
- 如果方法不涉及共享数据,则天生就是线程安全的,而无需同步方案;
无同步方案:
- “可重入代码(Reentrant Code)”:这种代码又称纯代码(Pure Code),是指“可以在代码执行的任何时刻中断它,转而去执行另外一段代码(包括递归调用它本身),而在控制权返回后,原来的程序不会出现任何错误,也不会对结果有所影响。”
- 可重入代码有一些共同的特征,例如,不依赖全局变量、存储在堆上的数据和公用的系统资源,用到的状态量都由参数中传入,不调用非可重入的方法等。
- 判断代码是否具备可重入性:“如果一个方法的返回结果是可以预测的,只要输入了相同的数据,就都能返回相同的结果,那它就满足可重入性的要求”,当然也就是线程安全的。
- “线程本地存储(Thread Local Storage)”:如果“一段代码中所需要的数据必须与其他代码共享,且这些共享数据的代码能保证在同一个线程中执行”,这样,无须同步也能保证线程之间不出现数据争用的问题。
- 如果一个变量要被多线程访问,可以使用volatile关键字将它声明为“易变的”;
- 如果一个变量只要被某个线程独享,可以通过“java.lang.ThreadLocal”类来实现线程本地存储的功能。
- 每一个线程的Thread对象中都有一个ThreadLocalMap对象,这个对象存储了一组以ThreadLocal.threadLocalHashCode为键,以本地线程变量为值的K-V值对,ThreadLocal对象就是当前线程的ThreadLocalMap的访问入口,每一个ThreadLocal对象都包含了一个独一无二的threadLocalHashCode值,使用这个值就可以在线程K-V值对中找回对应的本地线程变量。【???】
- 大部分使用消费队列的架构模式(如“生产者-消费者”模式)都会将产品的消费过程限制在一个线程中消费完,其中最重要的一种应用实例就是经典Web交互模型中的“一个请求对应一个服务器线程”(Thread-per-Request)的处理方式,这种处理方式的广泛应用使得很多Web服务端应用都可以使用线程本地存储来解决线程安全问题。