序章

以前、JAVAスレッドをきめ細かく制御するための非常に優れたライブラリであるJavaスレッドアフィニティを紹介しました。このライブラリを使用すると、スレッドを特定のCPUまたはCPUコアにバインドし、CPU間のスレッド切り替えを減らすことでスレッドの実行効率を向上させることができます。

nettyは十分に優れていますが、誰がさらに良くなりたくないのでしょうか。それで、アイデアが生まれました。つまり、アフィニティライブラリをnettyで使用できるのでしょうか。

答えはイエスです、見てみましょう。

親和性を導入する

アフィニティはjarパッケージの形式で提供されます。最新の公式バージョンは3.20.0であるため、次のように導入する必要があります。

<!-- https://mvnrepository.com/artifact/net.openhft/affinity -->
<dependency>
    <groupId>net.openhft</groupId>
    <artifactId>affinity</artifactId>
    <version>3.20.0</version>
</dependency>

复制代码

アフィニティの導入後、アフィニティライブラリパッケージがプロジェクトの依存関係ライブラリに追加されるため、nettyでアフィニティを楽しく使用できます。

AffinityThreadFactory

アフィニティを使用して、nettyにアフィニティを導入するにはどうすればよいですか？

アフィニティはスレッドを制御するために使用されることを知っています。つまり、アフィニティはスレッドに関連しています。nettyのスレッド関連はEventLoopGroupです。nettyでのEventLoopGroupの基本的な使用法を見てみましょう。例としてNioEventLoopGroupを取り上げます。NioEventLoopGroupには多くのコンストラクターパラメーターがあり、そのうちの1つはThreadFactoryに渡すことです。

    public NioEventLoopGroup(ThreadFactory threadFactory) {
        this(0, threadFactory, SelectorProvider.provider());
    }
复制代码

このコンストラクターは、NioEventLoopGroupで使用されるスレッドがthreadFactoryによって作成されることを示します。このようにして、nettyとアフィニティの対応関係を見つけました。アフィニティのThreadFactoryを構築するだけです。

アフィニティにAffinityThreadFactoryクラスがあります。これは、アフィニティに対応するスレッドを作成するために特別に使用されます。

次に、AffinityThreadFactoryを詳しく見てみましょう。

AffinityThreadFactoryは、提供されているさまざまなAffinityStrategyに従って対応するスレッドを作成できます。

AffinityStrategy表示的是线程之间的关系。在affinity中，有5种线程关系，分别是：

    SAME_CORE - 线程会运行在同一个CPU core中。
    SAME_SOCKET - 线程会运行在同一个CPU socket中，但是不在同一个core上。
    DIFFERENT_SOCKET - 线程会运行在不同的socket中。
    DIFFERENT_CORE - 线程会运行在不同的core上。
    ANY - 只要是可用的CPU资源都可以。
复制代码

这些关系是通过AffinityStrategy中的matches方法来实现的：

boolean matches(int cpuId, int cpuId2);
复制代码

matches传入两个参数，分别是传入的两个cpuId。我们以SAME_CORE为例来看看这个mathes方法到底是怎么工作的：

    SAME_CORE {
        @Override
        public boolean matches(int cpuId, int cpuId2) {
            CpuLayout cpuLayout = AffinityLock.cpuLayout();
            return cpuLayout.socketId(cpuId) == cpuLayout.socketId(cpuId2) &&
                    cpuLayout.coreId(cpuId) == cpuLayout.coreId(cpuId2);
        }
    }
复制代码

可以看到它的逻辑是先获取当前CPU的layout，CpuLayout中包含了cpu个数，sockets个数，每个sockets的cpu核数等基本信息。并且提供了三个方法根据给定的cpuId返回对应的socket、core和thread信息：

    int socketId(int cpuId);

    int coreId(int cpuId);

    int threadId(int cpuId);
复制代码

matches方法就是根据传入的cpuId找到对应的socket,core信息进行比较，从而生成了5中不同的策略。

先看一下AffinityThreadFactory的构造函数：

    public AffinityThreadFactory(String name, boolean daemon, @NotNull AffinityStrategy... strategies) {
        this.name = name;
        this.daemon = daemon;
        this.strategies = strategies.length == 0 ? new AffinityStrategy[]{AffinityStrategies.ANY} : strategies;
    }
复制代码

可以传入thread的name前缀，和是否是守护线程，最后如果strategies不传的话，默认使用的是AffinityStrategies.ANY策略，也就是说为线程分配任何可以绑定的CPU。

接下来看下这个ThreadFactory是怎么创建新线程的：

public synchronized Thread newThread(@NotNull final Runnable r) {
        String name2 = id <= 1 ? name : (name + '-' + id);
        id++;
        Thread t = new Thread(new Runnable() {
            @Override
            public void run() {
                try (AffinityLock ignored = acquireLockBasedOnLast()) {
                    r.run();
                }
            }
        }, name2);
        t.setDaemon(daemon);
        return t;
    }

    private synchronized AffinityLock acquireLockBasedOnLast() {
        AffinityLock al = lastAffinityLock == null ? AffinityLock.acquireLock() : lastAffinityLock.acquireLock(strategies);
        if (al.cpuId() >= 0)
            lastAffinityLock = al;
        return al;
    }
复制代码

从上面的代码可以看出，创建的新线程会以传入的name为前缀，后面添加1，2，3，4这种后缀。并且根据传入的是否是守护线程的标记，将调用对应线程的setDaemon方法。

重点是Thread内部运行的Runnable内容，在run方法内部，首先调用acquireLockBasedOnLast方法获取lock，在获得lock的前提下运行对应的线程方法，这样就会将当前运行的Thread和CPU进行绑定。

从acquireLockBasedOnLast方法中，我们可以看出AffinityLock实际上是一个链式结构，每次请求的时候都调用的是lastAffinityLock的acquireLock方法，如果获取到lock，则将lastAffinityLock进行替换，用来进行下一个lock的获取。

有了AffinityThreadFactory，我们只需要在netty的使用中传入AffinityThreadFactory即可。

在netty中使用AffinityThreadFactory

上面讲到了要在netty中使用affinity，可以将AffinityThreadFactory传入EventLoopGroup中。对于netty server来说可以有两个EventLoopGroup，分别是acceptorGroup和workerGroup，在下面的例子中我们将AffinityThreadFactory传入workerGroup，这样后续work中分配的线程都会遵循AffinityThreadFactory中配置的AffinityStrategies策略，来获得对应的CPU：

//建立两个EventloopGroup用来处理连接和消息
        EventLoopGroup acceptorGroup = new NioEventLoopGroup(acceptorThreads);
        //创建AffinityThreadFactory
        ThreadFactory threadFactory = new AffinityThreadFactory("affinityWorker", AffinityStrategies.DIFFERENT_CORE,AffinityStrategies.DIFFERENT_SOCKET,AffinityStrategies.ANY);
        //将AffinityThreadFactory加入workerGroup
        EventLoopGroup workerGroup = new NioEventLoopGroup(workerThreads,threadFactory);
        try {
            ServerBootstrap b = new ServerBootstrap();
            b.group(acceptorGroup, workerGroup)
                    .channel(NioServerSocketChannel.class)
                    .childHandler(new ChannelInitializer<SocketChannel>() {
                        @Override
                        public void initChannel(SocketChannel ch) throws Exception {
                            ch.pipeline().addLast(new AffinityServerHandler());
                        }
                    })
                    .option(ChannelOption.SO_BACKLOG, 128)
                    .childOption(ChannelOption.SO_KEEPALIVE, true);

            // 绑定端口并开始接收连接
            ChannelFuture f = b.bind(port).sync();

            // 等待server socket关闭
            f.channel().closeFuture().sync();
        } finally {
            //关闭group
            workerGroup.shutdownGracefully();
            acceptorGroup.shutdownGracefully();
        }
复制代码

为了获取更好的性能，Affinity还可以对CPU进行隔离，被隔离的CPU只允许执行本应用的线程，从而获得更好的性能。

要使用这个特性需要用到linux的isolcpus。这个功能主要是将一个或多个CPU独立出来，用来执行特定的Affinity任务。

isolcpus命令后面可以接CPU的ID,或者可以修改/boot/grub/grub.conf文件，添加要隔离的CPU信息如下：

isolcpus=3，4，5
复制代码

总结

affinity可以对线程进行极致管控，对性能要求严格的朋友可以试试，但是在使用过程中需要选择合适的AffinityStrategies，否则可能会得不到想要的结果。

本文的例子可以参考：learn-netty4

更多内容请参考 www.flydean.com/51-netty-th…

最通俗的解读，最深刻的干货，最简洁的教程，众多你不知道的小技巧等你来发现！

欢迎关注我的公众号:「程序那些事」,懂技术，更懂你！

Nettyシリーズ：nettyでのスレッドとCPUのバインディングの実装

序章

親和性を導入する

AffinityThreadFactory

在netty中使用AffinityThreadFactory

总结

おすすめ