Java并发——并发编程挑战

前言

本系列为《Java并发编程艺术》的读书笔记，内容多引用自原书。

I. 上下文切换

即使是单核处理器也支持多线程执行代码，CPU通过给每个线程分配CPU时间片来实现这个机制。时间片是CPU分配给各个线程的时间，因为时间片非常短，所以CPU通过不停地切换线程执行，让我们感觉多个线程是同时执行的，==时间片一般是几十毫秒（ms）==。

CPU通过时间片分配算法来循环执行任务，当前任务执行一个时间片后会切换到下一个任务。但是，在切换前会保存上一个任务的状态，以便下次切换回这个任务时，可以再加载这个任务的状态。所以任务从保存到再加载的过程就是一次上下文切换。

然而，多线程并不一定比单线程要快….

案例剖析

public class ConcurrencyTest {
    private static final long count = 1000000L;

    public static void main(String[] args) throws InterruptedException {
        concurrency();
        serial();
    }

    /**
     * 主线程进行 b--，子线程进行 a++
     * @throws InterruptedException
     */
    public static void concurrency() throws InterruptedException {
        long start = System.currentTimeMillis();
        Thread thread = new Thread(new Runnable() {
            public void run() {
                int a = 0;
                for (int i = 0; i < count; i++) {
                    a += 5;
                    // System.out.println("a = " + a);
                }
            }
        });
        thread.start();

        int b = 0;
        for (int i = 0; i < count; i++) {
            b--;
            // System.out.println("b = " + b);
        }

        long time = System.currentTimeMillis() - start;
        thread.join(); // 让父线程等待子线程结束之后才能继续运行
        System.out.println("concurrency :" + time + "ms, b=" + b);
    }

    /**
     * 串行执行相同的操作
     */
    public static void serial() {
        long start = System.currentTimeMillis();
        int a = 0;
        for (int i = 0; i < count; i++) {
            a += 5;
        }
        int b = 0;
        for (int i = 0; i < count; i++) {
            b--;
        }
        long time = System.currentTimeMillis() - start;
        System.out.println("serial :" + time + "ms, b=" + b);
    }
}

程序将两个线程分别进行 a++ 和 b–，与单线程进行相同操作 a++ 和 b– 耗时进行对比，运行后可以得到：==不同的 count 值运行时间不同。count 较大时并发执行比单线程要快，count 较小时并发执行因为上下文切换速度并不如单线程快。==

减少上下文切换

减少上下文切换的方法有无锁并发编程、CAS算法、使用最少线程 和 使用协程。

无锁并发编程：多线程竞争锁时，会引起上下文切换，所以多线程处理数据时，可以用一些办法来避免使用锁，如将数据的ID按照Hash算法取模分段，不同的线程处理不同段的数据。
CAS算法：Java的Atomic包使用CAS算法来更新数据，而不需要加锁。
使用最少线程：避免创建不需要的线程，比如任务很少，但是创建了很多线程来处理，这样会造成大量线程都处于等待状态。
协程：在单线程里实现多任务的调度，并在单线程里维持多个任务间的切换。

II. 死锁

锁是个非常有用的工具，运用场景非常多，因为它使用起来非常简单，而且易于理解。但同时它也会带来一些困扰，那就是可能会引起死锁，一旦产生死锁，就会造成系统功能不可用。

死锁案例

/**
 * 死锁案例
 */
public class DeadLockDemo {

    private static String A = "A";
    private static String B = "B";

    public static void main(String[] args) {
        Thread thread1 = new Thread(new Runnable() {
            public void run() {
                synchronized (A) {
                    try {
                        // 引发切换至线程2，A对象锁未释放
                        Thread.currentThread().sleep(2000);
                    } catch (InterruptedException e) {
                        e.printStackTrace();
                    }
                    synchronized (B) {
                        System.out.println("1");
                    }
                }
            }
        });
        Thread thread2 = new Thread(new Runnable() {
            public void run() {
                synchronized (B) {
                    synchronized (A) {
                        System.out.println("2");
                    }
                }
            }
        });
        thread1.start();
        thread2.start();
    }
}

程序创建了两个线程，线程1执行时会将对象 A 进行锁住，由于调用了 Thread.currentThread().sleep(2000) 方法，线程1会进行睡眠，此时线程2获取执行权。线程2会先将 B 对象锁住，然后希望获取锁 A，但此时 A 对象锁并没有被释放，造成线程2释放不了 B，线程1释放不了 A，变成死锁。

一旦出现死锁，业务是可感知的，因为不能继续提供服务了。我们可以利用 Jconsole 工具来查看。

Jconsole查看死锁线程

避免死锁

避免死锁的几个常见方法：

避免一个线程同时获取多个锁；
避免一个线程在锁内同时占用多个资源，尽量保证每个锁只占用一个资源；
尝试使用定时锁，使用lock.tryLock（timeout）来替代使用内部锁机制；
对于数据库锁，加锁和解锁必须在一个数据库连接里，否则会出现解锁失败的情况。

III. 资源限制挑战

资源限制

资源限制是指在进行并发编程时，程序的执行速度受限于计算机硬件资源或软件资源。硬件资源限制有带宽的上传/下载速度、硬盘读写速度和CPU的处理速度；软件资源限制有数据库的连接数和socket连接数等。

引发问题

在并发编程中，将代码执行速度加快的原则是将代码中串行执行的部分变成并发执行，但是如果将某段串行的代码并发执行，因为受限于资源，仍然在串行执行，这时候程序不仅不会加快执行，反而会更慢，因为增加了上下文切换和资源调度的时间。例如，之前看到一段程序使用多线程在办公网并发地下载和处理数据时，导致CPU利用率达到100%，几个小时都不能运行完成任务，后来修改成单线程，一个小时就执行完成了。

解决资源限制

对于硬件资源限制，可以考虑使用集群并行执行程序。既然单机的资源有限制，那么就让程序在多机上运行。比如使用ODPS、Hadoop或者自己搭建服务器集群，不同的机器处理不同的数据。可以通过“数据ID%机器数”，计算得到一个机器编号，然后由对应编号的机器处理这笔数据。
对于软件资源限制，可以考虑使用资源池将资源复用。比如使用连接池将数据库和Socket连接复用，或者在调用对方webservice接口获取数据时，只建立一个连接。

根据不同的资源限制调整程序的并发度，比如下载文件程序依赖于两个资源——带宽和硬盘读写速度。有数据库操作时，涉及数据库连接数，如果SQL语句执行非常快，而线程的数量比数据库连接数大很多，则某些线程会被阻塞，等待数据库连接。

IV. 总结

对于Java开发工程师而言，应多使用JDK并发包提供的并发容器和工具类来解决并发问题。