深入理解JVM：线程安全与锁优化

　

线程安全

《Java并发编程实战（Java Concurrency In Practice）》的作者Brian Goetz对“线程安全”的定义：

“当多个线程同时访问一个对象时，如果不用考虑这些线程在运行时环境下的调度和交替执行，也不需要进行额外的同步，或者在调用方进行任何其他的协调操作，调用这个对象的行为都可以获得正确的结果，那就称这个对象是线程安全的。”

Java语言中的线程安全

按照线程安全的“安全程度”由强至弱来排序，可以将Java语言中各种操作共享的数据分为以下五类：“不可变”、“绝对线程安全”、“相对线程安全”、“线程兼容”和“线程对立”。

不可变

在Java语言里面（特指JDK 5以后，即Java内存模型被修正之后的Java语言），不可变（Immutable）的对象一定是线程安全的，无论是对象的方法实现还是方法的调用者，都不需要再进行任何线程安全保障措施。

不可变数据：

1. 如果共享数据是一个基本数据类型：只要在定义时使用final关键字修饰它就可以保证它是不可变的。
2. 如果共享数据是一个对象：需要对象自行保证其行为不会对其状态产生任何影响才行。

   可以类比java.lang.String类的对象实例，它是一个典型的不可变对象，用户调用它的substring()、replace()和concat()这些方法都不会影响它原来的值，只会返回一个新构造的字符串对象。

Java类库API中不可变类型：
除了上面提到的String之外，常用的还有枚举类型及java.lang.Number的部分子类，如Long和Double等数值包装类型、BigInteger和BigDecimal等大数据类型。

• （但同为Number子类型的原子类AtomicInteger和AtomicLong则是可变的）

绝对线程安全

绝对线程安全：“不管运行时环境如何，调用者都不需要任何额外的同步措施”。

• 在Java API中标注线程安全的类，大多数都不是绝对的线程安全。（使用这些类时，在方法调用端可能仍需要做额外的同步措施）

相对线程安全

相对线程安全，就是通常意义上所讲的“线程安全”：

1. 需要保证对这个对象单次的操作是线程安全的，在调用的时候不需要进行额外的保障措施，
2. 但是对于一些特定顺序的连续调用，就可能需要在调用端使用额外的同步手段来保证调用的正确性。

• 在Java语言中，大部分声称线程安全的类都属于这种类型，例如Vector、HashTable、Collections的synchronizedCollection()方法包装的集合等。

线程兼容

线程兼容，即通常意义的“线程不安全”，指对象本身并不是线程安全的，但是可以通过在调用端正确地使用同步手段来保证对象在并发环境中可以安全地使用。

线程对立

线程对立是指不管调用端是否采取了同步措施，都无法在多线程环境中并发使用代码。

• 由于Java语言天生就支持多线程的特性，线程对立这种排斥多线程的代码是很少出现的，而且通常都是有害的，应当尽量避免。
• 常见的线程对立的操作：Thread类的suspend()和resume()方法，还有System.setIn()、Sytem.setOut()和System.runFinalizersOnExit()等。

线程安全的实现方法

互斥同步

互斥同步（Mutual Exclusion & Synchronization）是最常见也是最主要的并发正确性保障手段。

1. 同步：是指在多个线程并发访问共享数据时，保证共享数据在同一个时刻只被一条（或者是一些，当使用信号量的时候）线程使用。
2. 互斥是实现同步的一种手段，临界区（Critical Section）、互斥量（Mutex）和信号量（Semaphore）都是常见的互斥实现方式。

• 互斥同步面临的主要问题是进行线程阻塞和唤醒所带来的性能开销，因此这种同步也被称为阻塞同步（Blocking Synchronization）。

synchronized：

（最基本的互斥同步手段就是synchronized关键字，是一种块结构（BlockStructured）的同步语法。） synchronized关键字经过Javac编译之后，会在同步块的前后分别形成“monitorenter”和“monitorexit”这两个字节码指令。

• 这两个字节码指令都需要一个reference类型的参数来指明要锁定和解锁的对象。

1. 如果Java源码中的synchronized明确指定了对象参数，那就以这个对象的引用作为reference；
2. 如果没有明确指定，那将根据synchronized修饰的方法类型（如实例方法或类方法），来决定是取代码所在的对象实例还是取类型对应的Class对象来作为线程要持有的锁。

执行过程：

“根据《Java虚拟机规范》的要求，在执行monitorenter指令时，首先要去尝试获取对象的锁。如果这个对象没被锁定，或者当前线程已经持有了那个对象的锁，就把锁的计数器的值增加一，而在执行monitorexit指令时会将锁计数器的值减一。一旦计数器的值为零，锁随即就被释放了。如果获取对象锁失败，那当前线程就应当被阻塞等待，直到请求锁定的对象被持有它的线程释放为止。”

• 被synchronized修饰的同步块对同一条线程来说是可重入的。
• 被synchronized修饰的同步块在持有锁的线程执行完毕并释放锁之前，会无条件地阻塞后面其他线程的进入。（无法响应中断）
• 从执行成本的角度看，持有锁是一个重量级（Heavy-Weight）的操作。

  “主流Java虚拟机实现中，Java的线程是映射到操作系统的原生内核线程之上的，如果要阻塞或唤醒一条线程，则需要操作系统来帮忙完成，这就不可避免地陷入用户态到核心态的转换中，进行这种状态转换需要耗费很多的处理器时间。”

ReentrantLock：

• 自JDK 5起（实现了JSR 166[1]），Java类库中新提供了“java.util.concurrent”包（下文称J.U.C包），其中的“java.util.concurrent.locks.Lock”接口便成了Java的另一种全新的互斥同步手段。
• 基于Lock接口，用户能够以非块结构（Non-Block Structured）来实现互斥同步，从而摆脱了语言特性的束缚，改为在类库层面去实现同步，这也为日后扩展出不同调度算法、不同特征、不同性能、不同语义的各种锁提供了广阔的空间。

重入锁（ReentrantLock）是Lock接口最常见的一种实现，它与synchronized一样是可重入的。在基本用法上，ReentrantLock也与synchronized很相似，只是代码写法上稍有区别而已。不过，ReentrantLock与synchronized相比增加了一些高级功能，主要有以下三项：“等待可中断”、可实现“公平锁”及锁可以“绑定多个条件”。

• “等待可中断”：指当持有锁的线程长期不释放锁的时候，正在等待的线程可以选择放弃等待，改为处理其他事情。
• “公平锁”：是指多个线程在等待同一个锁时，必须按照申请锁的时间顺序来依次获得锁；（“非公平锁”则不保证这一点，在锁被释放时，任何一个等待锁的线程都有机会获得锁。）
  • synchronized中的锁是非公平的；
  • ReentrantLock在默认情况下也是非公平的，但可以通过带布尔值的构造函数要求使用公平锁；
  • 一旦使用了公平锁，将会导致ReentrantLock的性能急剧下降，会明显影响吞吐量；
• “锁绑定多个条件”：是指一个ReentrantLock对象可以同时绑定多个Condition对象。
  • 在synchronized中，锁对象的wait()跟它的notify()或者notifyAll()方法配合可以实现一个（仅）隐含的条件；
  • 而ReentrantLock则无须这样做，多次调用“newCondition()”方法即可：

  • class Bank
    {
       ReentrantLock lock = new ReentrantLock();
       private Condition sufficientFunds;
       public Bank()
       { 
          sufficientFunds = lock.newCondition();
       }
       
       public void transfer(int from, int to, int amount)
       {
          lock.lock()；
          try
          {
             while (accounts[from] < amount)
                sufficientFunds.await()；
          
             // transfer funds
             ...
          
          
             sufficientFunds.signalAll()；
          }
          finally
          {
             lock.unlock();
          }
       }
    }
    

synchronized 与 ReentrantLock 的比较

（JDK 5、单核处理器及双Xeon处理器环境下做了一组吞吐量对比的实验）

1. JDK 5、单核处理器下两种锁的吞吐量对比：

   

2. JDK 5、双Xeon处理器下两种锁的吞吐量对比：

   

• 性能已经不再是选择synchronized或者ReentrantLock的决定因素：JDK 6中加入了大量针对synchronized锁的优化措施之后，相同的测试中synchronized与ReentrantLock的性能基本上能够持平。

非阻塞同步

阻塞同步：

互斥同步属于一种悲观的并发策略，其总是认为只要不去做正确的同步措施（例如加锁），那就肯定会出现问题，无论共享的数据是否真的会出现竞争，它都会进行加锁，这将会导致用户态到核心态转换、维护锁计数器和检查是否有被阻塞的线程需要被唤醒等开销。互斥同步面临的主要问题是进行线程阻塞和唤醒所带来的性能开销。

非阻塞同步（Non-Blocking Synchronization）：基于冲突检测的乐观并发策略，

1. 不管风险，先进行操作，如果没有其他线程争用共享数据，那操作就直接成功了；
2. 如果共享的数据的确被争用，产生了冲突，那再进行其他的补偿措施；（最常用的补偿措施是不断地重试，直到出现没有竞争的共享数据为止）

这种乐观并发策略的实现不再需要把线程阻塞挂起，因此被称为非阻塞同步，使用这种措施的代码也常被称为无锁（Lock-Free）编程。

使用乐观并发策略需要“硬件指令集的发展”：硬件保证某些从语义上看起来需要多次操作的行为可以只通过一条处理器指令就能完成。如：

1. 测试并设置（Test-and-Set）；
2. 获取并增加（Fetch-and-Increment）；
3. 交换（Swap）；
4. 比较并交换（Compare-and-Swap，CAS）；
5. 加载链接/条件储存（Load-Linked/Store-Conditional，LL/SC）。

• 其中，后面的两条是现代处理器新增的。

“CAS”：CAS指令需要有三个操作数，分别是“内存位置”（在Java中可以简单地理解为变量的内存地址，用V表示）、“旧的预期值”（用A表示）和“准备设置的新值”（用B表示）。

• CAS指令执行时，当且仅当V符合A时，处理器才会用B更新V的值，否则它就不执行更新。但是，不管是否更新了V的值，都会返回V的旧值，上述的处理过程是一个原子操作，执行期间不会被其他线程中断。

• 在JDK 5之后，Java类库中才开始使用CAS操作，该操作由“sun.misc.Unsafe”类里面的“compareAndSwapInt()”和“compareAndSwapLong()”等几个方法包装提供。
  • HotSpot虚拟机在内部对这些方法做了特殊处理：即时编译出来的结果就是一条平台相关的处理器CAS指令，没有方法调用的过程，或者可以认为是无条件内联进去了。
  • 不过由于Unsafe类在设计上就不是提供给用户程序调用的类（Unsafe::getUnsafe()的代码中限制了只有启动类加载器（Bootstrap ClassLoader）加载的Class才能访问它），因此在JDK 9之前只有Java类库可以使用CAS，譬如J.U.C包里面的整数原子类，其中的“compareAndSet()”和“getAndIncrement()”等方法都使用了Unsafe类的CAS操作来实现。而如果用户程序也有使用CAS操作的需求，那要么就采用反射手段突破Unsafe的访问限制，要么就只能通过Java类库API来间接使用它。
• JDK 9之后，Java类库才在“VarHandle”类里开放了面向用户程序使用的CAS操作。

“CAS”操作的“ABA”问题：变量V初次读取的时候是A，并且在准备赋值的时候检查到它仍然为A，但在期间它的值曾经被改成B，后来又被改回为A，而CAS操作会误认为它从来没有被改变过。

• J.U.C包为了解决这个问题，提供了一个带有标记的原子引用类“AtomicStampedReference”，它可以通过控制变量值的版本来保证CAS的正确性。
• 但，大部分情况下ABA问题不会影响程序并发的正确性，如果需要解决ABA问题，改用传统的互斥同步可能会比原子类更为高效。

无同步方案

同步与线程安全两者没有必然的联系：

    1、如果方法设计共享数据，同步就是并发操作时保障线程安全的手段；
    2、如果方法不涉及共享数据，则天生就是线程安全的，而无需同步方案；

无同步方案：

1. “可重入代码（Reentrant Code）”：这种代码又称“纯代码”（Pure Code），是指“可以在代码执行的任何时刻中断它，转而去执行另外一段代码（包括递归调用它本身），而在控制权返回后，原来的程序不会出现任何错误，也不会对结果有所影响。”
   • 可重入代码有一些共同的特征，例如，不依赖全局变量、存储在堆上的数据和公用的系统资源，用到的状态量都由参数中传入，不调用非可重入的方法等。
   • 判断代码是否具备可重入性：“如果一个方法的返回结果是可以预测的，只要输入了相同的数据，就都能返回相同的结果，那它就满足可重入性的要求”，当然也就是线程安全的。
2. “线程本地存储（Thread Local Storage）”：如果“一段代码中所需要的数据必须与其他代码共享，且这些共享数据的代码能保证在同一个线程中执行”，这样，无须同步也能保证线程之间不出现数据争用的问题。
   • 如果一个变量要被多线程访问，可以使用 volatile 关键字将它声明为“易变的”；
   • 如果一个变量只要被某个线程独享，可以通过“java.lang.ThreadLocal”类来实现线程本地存储的功能。

     每一个线程的 Thread 对象中都有一个 ThreadLocalMap 对象，这个对象存储了一组以“ThreadLocal.threadLocalHashCode 为键，以本地线程变量为值”的 K-V 值对，ThreadLocal 对象就是当前线程的 ThreadLocalMap 的访问入口，每一个 ThreadLocal 对象都包含了一个独一无二的 threadLocalHashCode 值，使用这个值就可以在线程 K-V 值对中找回对应的本地线程变量。【？？？】

   • 大部分使用消费队列的架构模式（如：“生产者-消费者”模式）都会将产品的消费过程限制在一个线程中消费完，其中最重要的一种应用实例就是经典 Web 交互模型中的“一个请求对应一个服务器线程”（Thread-per-Request）的处理方式，这种处理方式的广泛应用使得很多 Web 服务端应用都可以使用线程本地存储来解决线程安全问题。

锁优化

高效并发是从JDK 5升级到JDK 6后一项重要的改进项，HotSpot虚拟机开发团队在这个版本上花费了大量的资源去实现各种锁优化技术，如“适应性自旋”（Adaptive Spinning）、“锁消除”（Lock Elimination）、“锁膨胀”（即“锁消除”，Lock Coarsening）、“轻量级锁”（Lightweight Locking）、“偏向锁”（Biased Locking）等，这些技术都是为了在线程之间更高效地共享数据及解决竞争问题，从而提高程序的执行效率。

自旋锁与自适应自旋

为什么使用自旋：

“互斥同步对性能最大的影响是阻塞的实现，挂起线程和恢复线程的操作都需要转入内核态中完成，这些操作给Java虚拟机的并发性能带来了很大的压力。”

为了让线程等待，但不放弃处理器的执行时间（不挂起不阻塞），所以让线程执行一个忙循环（自旋），这项技术就是所谓的自旋锁。

自旋锁：

• JDK 6中默认开启（JDK 1.4.2中引入，默认关闭，用“-XX：+UseSpinning”开启）。
• 自旋等待不能代替阻塞：虽然避免了线程切换的开销，但是要占用处理器时间的；自旋会带来CPU性能浪费。
• 自旋次数：默认十次，可以使用“-XX：PreBlockSpin”更改。（自旋超过了限定的次数仍然没有成功获得锁，则使用传统的方式去挂起线程）

自适应的自旋：

自旋的时间不固定，而是由前一次在同一个锁上的自旋时间及锁的拥有者的状态来决定的。

• 在JDK 6中对自旋锁的优化，引入了自适应的自旋。

锁消除

锁消除是指虚拟机即时编译器在运行时，对一些代码要求同步，但是对被检测到不可能存在共享数据竞争的锁进行消除。

• 锁消除的主要判定依据来源于逃逸分析的数据支持：【逃逸分析技术！！！】

  如果判断到一段代码中，在堆上的所有数据都不会逃逸出去被其他线程访问到，那就可以把它们当作栈上数据对待，认为它们是线程私有的，同步加锁自然就无须再进行。

锁粗化

锁粗话，是指如果虚拟机探测到有这样一串零碎的操作都对同一个对象加锁，将会把加锁同步的范围扩展（粗化）到整个操作序列的外部。

• 避免一系列的连续操作地对同一个对象反复加锁和解锁，导致不必要的性能损耗。

轻量级锁

“轻量级”是相对于使用操作系统互斥量来实现的传统锁而言的，因此传统的锁机制就被称为“重量级”锁。

• 轻量级锁并不是用来代替重量级锁的，而是在没有多线程竞争的前提下，减少传统的重量级锁使用操作系统互斥量产生的性能消耗。
• 轻量级锁能提升程序同步性能的依据是“对于绝大部分的锁，在整个同步周期内都是不存在竞争的”这一经验法则：
  1. 如果没有竞争，轻量级锁便通过CAS操作成功避免了使用互斥量的开销；
  2. 如果确实存在锁竞争，除了互斥量的本身开销外，还额外发生了CAS操作的开销。

  因此在有竞争的情况下，轻量级锁反而会比传统的重量级锁更慢（两条以上线程竞争，则膨胀为重量级锁）。

关于“Mark Word”：

HotSpot虚拟机的对象头（Object Header）分为两部分：

1. 第一部分用于存储对象自身的运行时数据，如哈希码（HashCode）、GC分代年龄（Generational GC Age）等。这部分数据的长度在32位和64位的Java虚拟机中分别会占用32个或64个比特，官方称它为“MarkWord”。这部分是实现轻量级锁和偏向锁的关键。
2. 另外一部分用于存储指向方法区对象类型数据的指针，如果是数组对象，还会有一个额外的部分用于存储数组长度。

• Mark Word被设计成一个非固定的动态数据结构，以便在极小的空间内存储尽量多的信息：

  例如在32位的HotSpot虚拟机中，对象未被锁定的状态下，Mark Word的32个比特空间里的25个比特将用于存储对象哈希码，4个比特用于存储对象分代年龄，2个比特用于存储锁标志位，还有1个比特固定为0（这表示未进入偏向模式）。

• 对象除了未被锁定的正常状态外，还有轻量级锁定、重量级锁定、GC标记、可偏向等几种不同状态：

  

轻量级锁执行过程：

1. 在代码即将进入同步块的时候，如果此同步对象没有被锁定（锁标志位为“01”状态），虚拟机首先将在当前线程的栈帧中建立一个名为锁记录（Lock Record）的空间，用于存储锁对象目前的Mark Word的拷贝（官方为这份拷贝加了一个Displaced前缀，即Displaced Mark Word）

   

2. 虚拟机将使用CAS操作尝试把对象的Mark Word更新为指向Lock Record的指针：
   1. 更新成功：即代表该线程拥有了这个对象的锁，并且对象Mark Word的锁标志位（Mark Word的最后两个比特）将转变为“00”，表示此对象处于轻量级锁定状态。

      

   2. 更新失败：那就意味着至少存在一条线程与当前线程竞争获取该对象的锁。虚拟机首先会检查对象的Mark Word是否指向当前线程的栈帧：
      1. 是：说明当前线程已经拥有了这个对象的锁，那直接进入同步块继续执行就可以了；
      2. 否：说明这个锁对象已经被其他线程抢占了。

• 如果出现两条以上的线程争用同一个锁的情况，那轻量级锁就不再有效，必须要膨胀为重量级锁。

  锁标志的状态值变为“10”，此时Mark Word中存储的就是指向重量级锁（互斥量）的指针，后面等待锁的线程也必须进入阻塞状态。

• 解锁过程也同样是通过CAS操作来进行的，如果对象的Mark Word仍然指向线程的锁记录，那就用CAS操作把对象当前的Mark Word和线程中复制的DisplacedMark Word替换回来。
  1. 假如能够成功替换，那整个同步过程就顺利完成了；
  2. 如果替换失败，则说明有其他线程尝试过获取该锁，就要在释放锁的同时，唤醒被挂起的线程。

偏向锁

偏向锁：这个锁会偏向于第一个获得它的线程，如果在接下来的执行过程中，该锁一直没有被其他的线程获取，则持有偏向锁的线程将永远不需要再进行同步。

• 目的是消除数据在无竞争情况下的同步原语：

  如果说轻量级锁是在无竞争的情况下使用CAS操作去消除同步使用的互斥量，那偏向锁就是在无竞争的情况下把整个同步都消除掉，连CAS操作都不去做了。

• 启用参数“-XX：+UseBiased Locking”（JDK 6，HotSpot虚拟机默认）

  禁用“-XX：-UseBiased Locking”

执行过程：

1. 当锁对象第一次被线程获取的时候，虚拟机将会把对象头中的标志位设置为“01”、把偏向模式设置为“1”，表示进入偏向模式。同时使用CAS操作把获取到这个锁的线程的ID记录在对象的Mark Word之中。

   如果CAS操作成功，持有偏向锁的线程以后每次进入这个锁相关的同步块时，虚拟机都可以不再进行任何同步操作（例如加锁、解锁及对Mark Word的更新操作等）。

2. 一旦出现另外一个线程去尝试获取这个锁的情况，偏向模式就马上宣告结束：

   根据锁对象目前是否处于被锁定的状态决定是否撤销偏向（偏向模式设置为“0”），撤销后标志位恢复到未锁定（标志位为“01”）或轻量级锁定（标志位为“00”）的状态，后续的同步操作就按照上面介绍的轻量级锁那样去执行。

偏向锁、轻量级锁的状态转化及对象Mark Word的关系：

细心的读者看到这里可能会发现一个问题：当对象进入偏向状态的时候，Mark Word大部分的空间（23个比特）都用于存储持有锁的线程ID了，这部分空间占用了原有存储对象哈希码的位置，那原来对象的哈希码怎么办呢？

在Java语言里面一个对象如果计算过哈希码，就应该一直保持该值不变（强烈推荐但不强制，因为用户可以重载hashCode()方法按自己的意愿返回哈希码），否则很多依赖对象哈希码的API都可能存在出错风险。而作为绝大多数对象哈希码来源的Object::hashCode()方法，返回的是对象的一致性哈希码（Identity Hash Code），这个值是能强制保证不变的，它通过在对象头中存储计算结果来保证第一次计算之后，再次调用该方法取到的哈希码值永远不会再发生改变。因此，当一个对象已经计算过一致性哈希码后，它就再也无法进入偏向锁状态了；而当一个对象当前正处于偏向锁状态，又收到需要计算其一致性哈希码请求[1]时，它的偏向状态会被立即撤销，并且锁会膨胀为重量级锁。在重量级锁的实现中，对象头指向了重量级锁的位置，代表重量级锁的ObjectMonitor类里有字段可以记录非加锁状态（标志位为“01”）下的Mark Word，其中自然可以存储原来的哈希码。

【？？？】