Serie Java Multithreading: dominar el futuro, obtener fácilmente resultados de tareas asincrónicas

prefacio

Recientemente, debido a algunas razones personales, no he podido dedicar demasiada energía a actualizar la serie de subprocesos múltiples de Java. Se ha suspendido durante varios meses. Pido disculpas a los lectores primero.

En otros artículos de esta serie, se ha mencionado la cooperación entre subprocesos. A través de la división del trabajo, las diferentes tareas del sistema del programa se separan por subprocesos, aprovechando al máximo el rendimiento de la máquina, mejorando la utilización de subprocesos específicos y la experiencia del programa.

Para obtener más información, consulte mi trabajo: Java Multithreading Foundation: explicación detallada del ciclo de vida de los subprocesos y la colaboración entre subprocesos .

Y mencionado en el artículo relacionado con el grupo de subprocesos: Como creadores de programas, estamos más preocupados por las características de los subprocesos (grupos) y las tareas que realizan, y no estamos dispuestos a distraernos con las operaciones de los subprocesos.

Vea mi propio trabajo para más detalles: Java Multithreading Foundation: creación de subprocesos y gestión de grupos de subprocesos

Sin embargo, en el desarrollo real, también nos preocupamos por el impacto de una tarea en el sistema del programa, que habitualmente se denomina resultado de la ejecución de la tarea .

Limitaciones de Runnables

En el artículo anterior, hablamos sobre la implementación de la interfaz Runnable mediante la codificación, y obtendrá una "tarea" con un límite para ejecutar en un subproceso específico (o grupo de subprocesos).

Volviendo a observar la interfaz, no es difícil encontrar que no tiene ningún valor de retorno de método:

public interface Runnable {
    void run();
}
复制代码

Antes de JDK 1.5, para usar el resultado de ejecución de la tarea, es necesario manipular cuidadosamente el hilo para acceder a los recursos de la sección crítica. Usar 回调para el desacoplamiento es una muy buena opción.

Demostración práctica: revise el conocimiento del artículo anterior

Tenga en cuenta que lambda se usa para reducir el espacio, pero no se admite lambda antes de jdk1.5

Separe las tareas informáticas a otros subprocesos para su ejecución y luego regrese al subproceso principal para consumir los resultados.

Lanzamos tareas que consumen mucho tiempo, como computación e IO, a otros subprocesos, y dejamos que el subproceso principal se centre en su propio negocio, asumiendo que está aceptando la entrada del usuario y procesando los comentarios, pero omitimos esta parte.

Podemos diseñar código como el siguiente:

Aunque todavía tiene muchas cosas irrazonables para optimizar, pero también es suficiente para la demostración.

class Demo {
    static final Object queueLock = new Object();
    static List<Runnable> mainQueue = new ArrayList<>();
    static boolean running = true;

    static final Runnable FINISH = () -> running = false;

    public static void main(String[] args) {
        synchronized (queueLock) {
            mainQueue.add(Demo::onStart);
        }
        while (running) {
            Runnable runnable = null;
            synchronized (queueLock) {
                if (!mainQueue.isEmpty())
                    runnable = mainQueue.remove(0);
            }
            if (runnable != null) {
                runnable.run();
            }
            Thread.yield();
        }
    }

    public static void onStart() {
        //...
    }

    public static void finish() {
        synchronized (queueLock) {
            mainQueue.clear();
            mainQueue.add(FINISH);
        }
    }
}
复制代码

Luego simule un subproceso computacional y una devolución de llamada de tarea:

interface Callback {
    void onResultCalculated(int result);
}

class CalcThread extends Thread {

    private final Callback callback;

    private final int a;

    private final int b;

    public CalcThread(Callback callback, int a, int b) {
        this.callback = callback;
        this.a = a;
        this.b = b;
    }

    @Override
    public void run() {
        super.run();
        try {
            Thread.sleep(10);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        final int result = a + b;
        System.out.println("threadId" + Thread.currentThread().getId() + ",calc result:" + result + ";" + System.currentTimeMillis());

        synchronized (queueLock) {
            mainQueue.add(() -> callback.onResultCalculated(result));
        }
    }
}
复制代码

Complete el negocio onStart:

class Demo {
    public static void onStart() {
        System.out.println("threadId" + Thread.currentThread().getId() + ",onStart," + System.currentTimeMillis());

        new CalcThread(result -> {
            System.out.println("threadId" + Thread.currentThread().getId() + ",onResultCalculated:" + result + ";" + System.currentTimeMillis());
            finish();
        }, 200, 300).start();

    }
}
复制代码

Revisión: Optimización para usar Runnable

在前文我们提到，如果业务仅关注任务的执行，并不过于关心线程本身，则可以利用Runnable：

class Demo {
    static class CalcRunnable implements Runnable {

        private final Callback callback;

        private final int a;

        private final int b;

        public CalcRunnable(Callback callback, int a, int b) {
            this.callback = callback;
            this.a = a;
            this.b = b;
        }

        @Override
        public void run() {
            try {
                Thread.sleep(10);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            final int result = a + b;
            System.out.println("threadId" + Thread.currentThread().getId() + ",calc result:" + result + ";" + System.currentTimeMillis());

            synchronized (queueLock) {
                mainQueue.add(() -> callback.onResultCalculated(result));
            }
        }
    }

    public static void onStart() {
        System.out.println("threadId" + Thread.currentThread().getId() + ",onStart," + System.currentTimeMillis());

        new Thread(new CalcRunnable(result -> {
            System.out.println("threadId" + Thread.currentThread().getId() + ",onResultCalculated:" + result + ";" + System.currentTimeMillis());
            finish();
        }, 200, 300)).start();

    }
}
复制代码

不难想象出：我们非常需要

• 让特定线程、特定类型的线程方便地接收任务，回顾本系列文章中的 线程池篇 ，线程池是应运而生
• 拥有比Synchronize更轻量的机制
• 拥有更方便的数据结构

至此，我们可以体会到：JDK1.5之前，因为JDK的功能不足，Java程序对于线程的使用 较为粗糙。

为异步而生的Future

终于在JDK1.5中，迎来了新特性： Future 以及先前文章中提到的线程池, 时光荏苒，一晃将近20年了。

/**
 * 略
 * @since 1.5
 * @author Doug Lea
 * @param <V> The result type returned by this Future's {@code get} method
 */
public interface Future<V> {

    boolean cancel(boolean mayInterruptIfRunning);

    boolean isCancelled();

    boolean isDone();

    V get() throws InterruptedException, ExecutionException;

    V get(long timeout, TimeUnit unit)
            throws InterruptedException, ExecutionException, TimeoutException;
}
复制代码

尽管已经移除了API注释，但仍然能够理解每个API的含义，不多做赘述。

显而易见，为了增加返回值，没有必要用如此复杂的 接口来替代 Runnable。简单思考后可以对返回值的情况进行归纳：

• 返回Runnable中业务的结果，例如计算、读取资源等
• 单纯的在Runnable执行完毕后返回一个结果

从业务层上看，仅需要如下接口即可，它增加了返回值、并可以更友好地让使用者处理异常：

作者按：抛开底层实现，仅看业务方编码需要

public interface Callable<V> {
    /**
     * Computes a result, or throws an exception if unable to do so.
     *
     * @return computed result
     * @throws Exception if unable to compute a result
     * 防盗戳 leobert-lan https://juejin.cn/user/2066737589654327
     */
    V call() throws Exception;
}
复制代码

显然，JDK需要提供后向兼容能力：

• Runnable 不能够丢弃，也不应当丢弃
• 不能要求使用者完全的重构代码

所以一并提供了适配器，让使用者进行简单的局部重构即可用上新特性

static final class RunnableAdapter<T> implements Callable<T> {
    final Runnable task;
    final T result;

    RunnableAdapter(Runnable task, T result) {
        this.task = task;
        this.result = result;
    }

    public T call() {
        task.run();
        return result;
    }
}
复制代码

而Future恰如其名，它代表了在 "未来" 的一个结果和状态，为了更方便地处理异步而生。

并且内置了 FutureTask，在 FutureTask详解 章节中再行展开。

类图

在JDK1.8的基础上，看一下精简的类图结构：

FutureTask详解

构造函数

public class FutureTask {
    public FutureTask(Callable<V> callable) {
        if (callable == null)
            throw new NullPointerException();
        this.callable = callable;
        this.state = NEW;       // ensure visibility of callable
    }

    public FutureTask(Runnable runnable, V result) {
        this.callable = Executors.callable(runnable, result);
        this.state = NEW;       // ensure visibility of callable
    }
}
复制代码

生命周期

public class FutureTask {
    //新建
    private static final int NEW = 0;

    //处理中
    private static final int COMPLETING = 1;

    //正常
    private static final int NORMAL = 2;

    //异常
    private static final int EXCEPTIONAL = 3;

    //已取消
    private static final int CANCELLED = 4;

    //中断中
    private static final int INTERRUPTING = 5;

    //已中断
    private static final int INTERRUPTED = 6;
}
复制代码

可能的生命周期转换如下：

• NEW -> COMPLETING -> NORMAL
• NEW -> COMPLETING -> EXCEPTIONAL
• NEW -> CANCELLED
• NEW -> INTERRUPTING -> INTERRUPTED

JDK中原汁原味的解释如下：

The run state of this task, initially NEW. The run state transitions to a terminal state only in methods set, setException, and cancel. During completion, state may take on transient values of COMPLETING (while outcome is being set) or INTERRUPTING (only while interrupting the runner to satisfy a cancel(true)). Transitions from these intermediate to final states use cheaper ordered/lazy writes because values are unique and cannot be further modified.

核心方法

本节从以下三块入手阅读源码

• 状态判断
• 取消
• 获取结果

状态判断API的实现非常简单

public class FutureTask {
    public boolean isCancelled() {
        return state >= CANCELLED;
    }

    public boolean isDone() {
        return state != NEW;
    }
}
复制代码

取消：

1. 当前状态为 NEW 且 CAS修改 state 成功，否则返回取消失败
2. 如果 mayInterruptIfRunning 则中断在执行的线程并CAS修改state为INTERRUPTED
3. 调用 finishCompletion
   1. 删除并通知所有等待的线程
   2. 调用done()
   3. 设置callable为null

public class FutureTask {
    public boolean cancel(boolean mayInterruptIfRunning) {
        if (!(state == NEW &&
                UNSAFE.compareAndSwapInt(this, stateOffset, NEW,
                        mayInterruptIfRunning ? INTERRUPTING : CANCELLED))) {

            return false;
        }

        try {    // in case call to interrupt throws exception
            if (mayInterruptIfRunning) {
                try {
                    Thread t = runner;
                    if (t != null)
                        t.interrupt();
                } finally { // final state
                    UNSAFE.putOrderedInt(this, stateOffset, INTERRUPTED);
                }
            }
        } finally {
            finishCompletion();
        }
        return true;
    }

    private void finishCompletion() {
        // assert state > COMPLETING;
        for (WaitNode q; (q = waiters) != null; ) {
            if (UNSAFE.compareAndSwapObject(this, waitersOffset, q, null)) {
                for (; ; ) {
                    Thread t = q.thread;
                    if (t != null) {
                        q.thread = null;
                        LockSupport.unpark(t);
                    }
                    WaitNode next = q.next;
                    if (next == null)
                        break;
                    q.next = null; // unlink to help gc
                    q = next;
                }
                break;
            }
        }

        done();

        callable = null;        // to reduce footprint
    }
}
复制代码

获取结果： 先判断状态，如果未进入到 COMPLETING（即为NEW状态），则阻塞等待状态改变，返回结果或抛出异常

public class FutureTask {
    public V get() throws InterruptedException, ExecutionException {
        int s = state;
        if (s <= COMPLETING)
            s = awaitDone(false, 0L);
        return report(s);
    }

    public V get(long timeout, TimeUnit unit)
            throws InterruptedException, ExecutionException, TimeoutException {
        if (unit == null)
            throw new NullPointerException();
        int s = state;
        if (s <= COMPLETING &&
                (s = awaitDone(true, unit.toNanos(timeout))) <= COMPLETING)
            throw new TimeoutException();
        return report(s);
    }

    private V report(int s) throws ExecutionException {
        Object x = outcome;
        if (s == NORMAL)
            return (V) x;
        if (s >= CANCELLED)
            throw new CancellationException();
        throw new ExecutionException((Throwable) x);
    }
}
复制代码

如何使用

而使用则非常简单，也非常的朴素。

我们以文中的的例子进行改造:

1. 沿用原Runnable逻辑
2. 移除回调，增加 CalcResult
3. 将 CalcResult 对象作为既定返回结果，Runnable中设置其属性

class Demo {
   static class CalcResult {
      public int result;
   }
   public static void onStart() {
      System.out.println("threadId" + Thread.currentThread().getId() + ",onStart," + System.currentTimeMillis());

      final CalcResult calcResult = new CalcResult();
      Future<CalcResult> resultFuture = Executors.newSingleThreadExecutor().submit(() -> {
         try {
            Thread.sleep(10);
         } catch (InterruptedException e) {
            e.printStackTrace();
         }
         final int result = 200 + 300;
         System.out.println("threadId" + Thread.currentThread().getId() + ",calc result:" + result + ";" + System.currentTimeMillis());
         calcResult.result = result;
      }, calcResult);

      System.out.println("threadId" + Thread.currentThread().getId() + "反正干点什么," + System.currentTimeMillis());
      if (resultFuture.isDone()) {
         try {
            final int ret = resultFuture.get().result;
            System.out.println("threadId" + Thread.currentThread().getId() + ",get result:" + ret + ";" + System.currentTimeMillis());
         } catch (InterruptedException | ExecutionException e) {
            e.printStackTrace();
         }
      }
      finish();
   }
}
复制代码

如果直接使用新特性Callback，则如下：

直接返回结果，当然也可以直接返回Integer，不再包裹一层

class Demo {
   public static void onStart() {
      System.out.println("threadId" + Thread.currentThread().getId() + ",onStart," + System.currentTimeMillis());

      ExecutorService executor = Executors.newSingleThreadExecutor();
      Future<CalcResult> resultFuture = executor.submit(() -> {
         try {
            Thread.sleep(10);
         } catch (InterruptedException e) {
            e.printStackTrace();
         }
         final int result = 200 + 300;
         System.out.println("threadId" + Thread.currentThread().getId() + ",calc result:" + result + ";" + System.currentTimeMillis());
         final CalcResult calcResult = new CalcResult();
         calcResult.result = result;
         return calcResult;
      });

      System.out.println("threadId" + Thread.currentThread().getId() + "反正干点什么," + System.currentTimeMillis());
      if (resultFuture.isDone()) {
         try {
            final int ret = resultFuture.get().result;
            System.out.println("threadId" + Thread.currentThread().getId() + ",get result:" + ret + ";" + System.currentTimeMillis());
         } catch (InterruptedException | ExecutionException e) {
            e.printStackTrace();
         }
      }
      executor.shutdown();
      finish();
   }
}
复制代码

相信读者诸君会有这样的疑惑：

为何使用Future比原先的回调看起来粗糙？

首先要明确一点：文中前段的回调Demo，虽然达成了既定目标，但效率并不高！！在当时计算很昂贵的背景下，并不会如此莽撞地使用！

而在JDK1.5开始，提供了大量内容支持多线程开发。考虑到篇幅，会在系列文章中逐步展开。

另外，FutureTask中的CAS与Happens-Before本篇中亦不做展开。

接下来，再做一些引申，简单看一看多线程业务模式。

引申，多线程业务模式

常用的多线程设计模式包括：

• Future模式
• Master-Worker模式
• Guarded Suspension模式
• 不变模式
• 生产者-消费

Future模式

文中对于Future的使用方式遵循了Future模式。

业务方在使用时，已经明确了任务被分离到其他线程执行时有等待期，在此期间，可以干点别的事情，不必浪费系统资源。

Master-Worker模式

在程序系统中设计两类线程，并相互协作：

• Master线程（单个）
• Worker线程

Master线程负责接受任务、分配任务、接收（必要时进一步组合）结果并返回；

Worker线程负责处理子任务，当子任务处理完成后，向Master线程返回结果；

作者按：此时可再次回想一下文章开头的Demo

Guarded Suspension模式

1. 使用缓存队列，使得 服务线程/服务进程 在未就绪、忙碌时能够延迟处理请求。
2. 使用等待-通知机制，将消费 服务的返回结果 的方式规范化

不变模式

En el proceso de desarrollo paralelo, para garantizar la consistencia y corrección de los datos, es necesario sincronizar los objetos, y la operación de sincronización provocará una pérdida considerable del rendimiento del sistema del programa.

Por lo tanto, use objetos cuyo estado sea inmutable y confíe en su inmutabilidad para garantizar que las operaciones paralelas permanezcan consistentes y correctas en ausencia de mecanismos de sincronización.

1. Una vez que se crea el objeto, su estado interno y los datos ya no cambian
2. Los objetos son compartidos y accedidos por múltiples subprocesos

Productor-Consumidor

Diseñe dos tipos de hilos: varios hilos productores y varios hilos consumidores.

El subproceso productor es responsable de enviar las solicitudes de los usuarios, y el subproceso del consumidor es responsable de procesar las solicitudes de los usuarios. La comunicación entre productores y consumidores se realiza a través de búferes de memoria compartidos.

El significado del búfer de memoria:

• La solución es compartir datos entre múltiples hilos.
• Mitigar el mal desempeño entre productores y consumidores.

Estos modos resuelven problemas específicos desde diferentes perspectivas, pero también tienen ciertas similitudes y no se ampliarán más.

posdata

En este punto, hemos llegado al final, y en JDK1.5, el soporte para subprocesos múltiples ha dado paso a una explosión. El contenido sobre el grupo de subprocesos en este artículo y la serie de artículos es solo la base de la base. Todavía hay mucho contenido que vale la pena analizar. Este artículo no profundizará más.

En la siguiente serie de artículos, ampliaremos AQS, SUCEDE ANTES, etc., así como las herramientas CompleteFutureTask, JUC, etc., que están muy relacionadas con este artículo.