Netty系列文章之Netty线程模型

前言

咱们在使用Netty进行服务端开发的时候，通常来讲会定义两个NioEventLoopGroup线程池，一个"bossGroup"线程池去负责处理客户端链接，一个"workGroup"线程池去负责处理读写操做。那么，咱们为何要这么作呢？这样作的好处是什么呢？能不能只使用一个NioEventLoopGroup呢？这就是咱们今天要讨论的主题——Netty的线程模型

Reactor线程模型

实际上Netty线程模型就是Reactor模式的一个实现，而Reactor模式又是什么呢？

Reactor模式是基于事件驱动开发的，核心组成部分包括Reactor和线程池，其中Reactor负责监听和分配事件，线程池负责处理事件，而根据Reactor的数量和线程池的数量，又将Reactor分为三种模型:

• 单线程模型 (单Reactor单线程)
• 多线程模型 (单Reactor多线程)
• 主从多线程模型 (多Reactor多线程)

单线程模型

图片摘自：gee.cs.oswego.edu/dl/cpjslide…

• Reactor内部经过selector 监控链接事件，收到事件后经过dispatch进行分发，若是是链接创建的事件，则由Acceptor处理，Acceptor经过accept接受链接，并建立一个Handler来处理链接后续的各类事件,若是是读写事件，直接调用链接对应的Handler来处理
• Handler完成read->(decode->compute->encode)->send的业务流程
• 这种模型好处是简单，坏处却很明显，当某个Handler阻塞时，会致使其余客户端的handler和accpetor都得不到执行，没法作到高性能，只适用于业务处理很是快速的场景

多线程模型

图片摘自：gee.cs.oswego.edu/dl/cpjslide…

• 主线程中，Reactor对象经过selector监控链接事件,收到事件后经过dispatch进行分发，若是是链接创建事件，则由Acceptor处理，Acceptor经过accept接收链接，并建立一个Handler来处理后续事件，而Handler只负责响应事件，不进行业务操做，也就是只进行read读取数据和write写出数据，业务处理交给一个线程池进行处理
• 线程池分配一个线程完成真正的业务处理，而后将响应结果交给主进程的Handler处理，Handler将结果send给client (下面是核心代码)

单Reactor承当全部事件的监听和响应,而当咱们的服务端遇到大量的客户端同时进行链接，或者在请求链接时执行一些耗时操做，好比身份认证，权限检查等，这种瞬时的高并发就容易成为性能瓶颈

主从多线程模型 （最流行）

图片摘自：gee.cs.oswego.edu/dl/cpjslide…

• 存在多个Reactor，每一个Reactor都有本身的selector选择器，线程和dispatch
• 主线程中的mainReactor经过本身的selector监控链接创建事件，收到事件后经过Accpetor接收，将新的链接分配给某个子线程
• 子线程中的subReactor将mainReactor分配的链接加入链接队列中经过本身的selector进行监听，并建立一个Handler用于处理后续事件
• Handler完成read->业务处理->send的完整业务流程

Netty中的线程模型与Reactor的联系

Netty主要靠NioEventLoopGroup线程池来实现具体的线程模型的

单线程模型

单线程模型就是只指定一个线程执行客户端链接和读写操做，也就是在一个Reactor中完成，对应在Netty中的实现就是将NioEventLoopGroup线程数设置为1，核心代码是：

NioEventLoopGroup group = new NioEventLoopGroup(1);
        ServerBootstrap bootstrap = new ServerBootstrap();
        bootstrap.group(group)
                .channel(NioServerSocketChannel.class)
                .channel(NioServerSocketChannel.class)
                .option(ChannelOption.TCP_NODELAY, true)
                .option(ChannelOption.SO_BACKLOG, 1024)
                .childHandler(new ServerHandlerInitializer());
复制代码

它的工做流程大体以下：

上述单线程模型就对应了Reactor的单线程模型

多线程模型

多线程模型就是在一个单Reactor中进行客户端链接处理，而后业务处理交给线程池，核心代码以下：

NioEventLoopGroup eventGroup = new NioEventLoopGroup();
ServerBootstrap bootstrap = new ServerBootstrap();
bootstrap.group(eventGroup)
        .channel(NioServerSocketChannel.class)
        .option(ChannelOption.TCP_NODELAY, true)
        .option(ChannelOption.SO_BACKLOG, 1024)
        .childHandler(new ServerHandlerInitializer());
复制代码

走进group方法能够发现咱们平时设置的bossGroup和workerGroup就是使用了同一个group

@Override
public ServerBootstrap group(EventLoopGroup group) {
    return group(group, group);
}
复制代码

工做流程以下：

主从多线程模型 (最常使用)

主从多线程模型是有多个Reactor，也就是存在多个selector，因此咱们定义一个bossGroup和一个workGroup，核心代码以下：

NioEventLoopGroup bossGroup = new NioEventLoopGroup();
NioEventLoopGroup workerGroup = new NioEventLoopGroup();
ServerBootstrap bootstrap = new ServerBootstrap();
bootstrap.group(bossGroup,workerGroup)
        .channel(NioServerSocketChannel.class)
        .option(ChannelOption.TCP_NODELAY, true)
        .option(ChannelOption.SO_BACKLOG, 1024)
        .childHandler(new ServerHandlerInitializer());
复制代码

工做流程以下：

注意：其实在Netty中，bossGroup线程池最终仍是只会随机选择一个线程用于处理客户端链接，与此同时，NioServerSocetChannel绑定到bossGroup的线程中，NioSocketChannel绑定到workGroup的线程中

小结

以上总结了Reactor的三种模型以及Netty中的对应实现，在Netty中，咱们使用的最多的仍是主从多线程模型。关于Reactor的学习，最权威的资料应该是Doug Lea大神的Scalable IO in Java，有兴趣的同窗能够看看

参考资料

• gee.cs.oswego.edu/dl/cpjslide…
• time.geekbang.org/column/arti…
• segmentfault.com/a/119000000…
• www.infoq.cn/article/net…