【转】目前为止最透彻的的Netty高性能原理和框架架构解析

转自：https://zhuanlan.zhihu.com/p/48591893

 

一、引言

Netty 是一个广受欢迎的异步事件驱动的Java开源网络应用程序框架，用于快速开发可维护的高性能协议服务器和客户端。

本文基于 Netty 4.1 展开介绍相关理论模型，使用场景，基本组件、总体架构，知其然且知其因此然，但愿给你们在实际开发实践、学习开源项目方面提供参考。

本文做者的另两篇《高性能网络编程(五)：一文读懂高性能网络编程中的I/O模型》、《高性能网络编程(六)：一文读懂高性能网络编程中的线程模型》也写的很好，有兴趣的读者能够一并看看。

关于做者：

陈彩华(caison)，从事服务端开发，善于系统设计、优化重构、线上问题排查工做，主要开发语言是 Java，微信号：hua1881375。

（本文同步发布于：http://www.52im.net/thread-2043-1-1.html）

二、相关资料

Netty源码在线阅读：

Netty-4.1.x地址是： http://docs.52im.net/extend/docs/src/netty4_1/
Netty-4.0.x地址是： http://docs.52im.net/extend/docs/src/netty4/
Netty-3.x地址是： http://docs.52im.net/extend/docs/src/netty3/

Netty在线API文档：

Netty-4.1.x API文档(在线版)： http://docs.52im.net/extend/docs/api/netty4_1/
Netty-4.0.x API文档(在线版)： http://docs.52im.net/extend/docs/api/netty4/
Netty-3.x API文档(在线版)： http://docs.52im.net/extend/docs/api/netty3/

有关Netty的其它精华文章：

《 有关“为什么选择Netty”的11个疑问及解答》
《 开源NIO框架八卦——究竟是先有MINA仍是先有Netty?》
《 选Netty仍是Mina：深刻研究与对比（一）》
《 选Netty仍是Mina：深刻研究与对比（二）》
《 Netty 4.x学习（一）：ByteBuf详解》
《 Netty 4.x学习（二）：Channel和Pipeline详解》
《 Netty 4.x学习（三）：线程模型详解》
《 实践总结：Netty3.x升级Netty4.x遇到的那些坑（线程篇）》
《 实践总结：Netty3.x VS Netty4.x的线程模型》
《 详解Netty的安全性：原理介绍、代码演示（上篇）》
《 详解Netty的安全性：原理介绍、代码演示（下篇）》
《 详解Netty的优雅退出机制和原理》
《 NIO框架详解：Netty的高性能之道》
《 Twitter：如何使用Netty 4来减小JVM的GC开销（译文）》
《 绝对干货：基于Netty实现海量接入的推送服务技术要点》
《 Netty干货分享：京东京麦的生产级TCP网关技术实践总结》

三、JDK 原生 NIO 程序的问题

JDK 原生也有一套网络应用程序 API，可是存在一系列问题，主要以下：

1）NIO 的类库和 API 繁杂，使用麻烦：你须要熟练掌握 Selector、ServerSocketChannel、SocketChannel、ByteBuffer 等。

2）须要具有其余的额外技能作铺垫：例如熟悉 Java 多线程编程，由于 NIO 编程涉及到 Reactor 模式，你必须对多线程和网路编程很是熟悉，才能编写出高质量的 NIO 程序。

3）可靠性能力补齐，开发工做量和难度都很是大：例如客户端面临断连重连、网络闪断、半包读写、失败缓存、网络拥塞和异常码流的处理等等。NIO 编程的特色是功能开发相对容易，可是可靠性能力补齐工做量和难度都很是大。

4）JDK NIO 的 Bug：例如臭名昭著的 Epoll Bug，它会致使 Selector 空轮询，最终致使 CPU 100%。官方声称在 JDK 1.6 版本的 update 18 修复了该问题，可是直到 JDK 1.7 版本该问题仍旧存在，只不过该 Bug 发生几率下降了一些而已，它并无被根本解决。

四、Netty 的特色

Netty 对 JDK 自带的 NIO 的 API 进行了封装，解决了上述问题。

Netty的主要特色有：

1）设计优雅：适用于各类传输类型的统一 API 阻塞和非阻塞 Socket；基于灵活且可扩展的事件模型，能够清晰地分离关注点；高度可定制的线程模型 - 单线程，一个或多个线程池；真正的无链接数据报套接字支持（自 3.1 起）。

2）使用方便：详细记录的 Javadoc，用户指南和示例；没有其余依赖项，JDK 5（Netty 3.x）或 6（Netty 4.x）就足够了。

3）高性能、吞吐量更高：延迟更低；减小资源消耗；最小化没必要要的内存复制。

4）安全：完整的 SSL/TLS 和 StartTLS 支持。

5）社区活跃、不断更新：社区活跃，版本迭代周期短，发现的 Bug 能够被及时修复，同时，更多的新功能会被加入。

 

七、Netty框架的架构设计

前面介绍完 Netty 相关一些理论，下面从功能特性、模块组件、运做过程来介绍 Netty 的架构设计。

7.1 功能特性 

Netty 功能特性以下：

1）传输服务：支持 BIO 和 NIO；

2）容器集成：支持 OSGI、JBossMC、Spring、Guice 容器；

3）协议支持：HTTP、Protobuf、二进制、文本、WebSocket 等一系列常见协议都支持。还支持经过实行编码解码逻辑来实现自定义协议；

4）Core 核心：可扩展事件模型、通用通讯 API、支持零拷贝的 ByteBuf 缓冲对象。

7.2 模块组件

【Bootstrap、ServerBootstrap】：

Bootstrap 意思是引导，一个 Netty 应用一般由一个 Bootstrap 开始，主要做用是配置整个 Netty 程序，串联各个组件，Netty 中 Bootstrap 类是客户端程序的启动引导类，ServerBootstrap 是服务端启动引导类。

【Future、ChannelFuture】：

正如前面介绍，在 Netty 中全部的 IO 操做都是异步的，不能马上得知消息是否被正确处理。

可是能够过一会等它执行完成或者直接注册一个监听，具体的实现就是经过 Future 和 ChannelFutures，他们能够注册一个监听，当操做执行成功或失败时监听会自动触发注册的监听事件。

【Channel】：

Netty 网络通讯的组件，可以用于执行网络 I/O 操做。Channel 为用户提供：

1）当前网络链接的通道的状态（例如是否打开？是否已链接？）

2）网络链接的配置参数 （例如接收缓冲区大小）

3）提供异步的网络 I/O 操做(如创建链接，读写，绑定端口)，异步调用意味着任何 I/O 调用都将当即返回，而且不保证在调用结束时所请求的 I/O 操做已完成。

4）调用当即返回一个 ChannelFuture 实例，经过注册监听器到 ChannelFuture 上，能够 I/O 操做成功、失败或取消时回调通知调用方。

5）支持关联 I/O 操做与对应的处理程序。

不一样协议、不一样的阻塞类型的链接都有不一样的 Channel 类型与之对应。

下面是一些经常使用的 Channel 类型：

NioSocketChannel，异步的客户端 TCP Socket 链接。
NioServerSocketChannel，异步的服务器端 TCP Socket 链接。
NioDatagramChannel，异步的 UDP 链接。
NioSctpChannel，异步的客户端 Sctp 链接。
NioSctpServerChannel，异步的 Sctp 服务器端链接，这些通道涵盖了 UDP 和 TCP 网络 IO 以及文件 IO。

【Selector】：

Netty 基于 Selector 对象实现 I/O 多路复用，经过 Selector 一个线程能够监听多个链接的 Channel 事件。

当向一个 Selector 中注册 Channel 后，Selector 内部的机制就能够自动不断地查询(Select) 这些注册的 Channel 是否有已就绪的 I/O 事件（例如可读，可写，网络链接完成等），这样程序就能够很简单地使用一个线程高效地管理多个 Channel 。

【NioEventLoop】：

NioEventLoop 中维护了一个线程和任务队列，支持异步提交执行任务，线程启动时会调用 NioEventLoop 的 run 方法，执行 I/O 任务和非 I/O 任务：

I/O 任务，即 selectionKey 中 ready 的事件，如 accept、connect、read、write 等，由 processSelectedKeys 方法触发。

非 IO 任务，添加到 taskQueue 中的任务，如 register0、bind0 等任务，由 runAllTasks 方法触发。

两种任务的执行时间比由变量 ioRatio 控制，默认为 50，则表示容许非 IO 任务执行的时间与 IO 任务的执行时间相等。

【NioEventLoopGroup】：

NioEventLoopGroup，主要管理 eventLoop 的生命周期，能够理解为一个线程池，内部维护了一组线程，每一个线程(NioEventLoop)负责处理多个 Channel 上的事件，而一个 Channel 只对应于一个线程。

【ChannelHandler】：

ChannelHandler 是一个接口，处理 I/O 事件或拦截 I/O 操做，并将其转发到其 ChannelPipeline(业务处理链)中的下一个处理程序。

ChannelHandler 自己并无提供不少方法，由于这个接口有许多的方法须要实现，方便使用期间，能够继承它的子类：

ChannelInboundHandler 用于处理入站 I/O 事件。
ChannelOutboundHandler 用于处理出站 I/O 操做。

或者使用如下适配器类：

ChannelInboundHandlerAdapter 用于处理入站 I/O 事件。
ChannelOutboundHandlerAdapter 用于处理出站 I/O 操做。
ChannelDuplexHandler 用于处理入站和出站事件。

【ChannelHandlerContext】：

保存 Channel 相关的全部上下文信息，同时关联一个 ChannelHandler 对象。

【ChannelPipline】：

保存 ChannelHandler 的 List，用于处理或拦截 Channel 的入站事件和出站操做。

ChannelPipeline 实现了一种高级形式的拦截过滤器模式，使用户能够彻底控制事件的处理方式，以及 Channel 中各个的 ChannelHandler 如何相互交互。

下图引用 Netty 的 Javadoc 4.1 中 ChannelPipeline 的说明，描述了 ChannelPipeline 中 ChannelHandler 一般如何处理 I/O 事件。

I/O 事件由 ChannelInboundHandler 或 ChannelOutboundHandler 处理，并经过调用 ChannelHandlerContext 中定义的事件传播方法。

例如：ChannelHandlerContext.fireChannelRead（Object）和 ChannelOutboundInvoker.write（Object）转发到其最近的处理程序。

 

入站事件由自下而上方向的入站处理程序处理，如图左侧所示。入站 Handler 处理程序一般处理由图底部的 I/O 线程生成的入站数据。

一般经过实际输入操做（例如 SocketChannel.read（ByteBuffer））从远程读取入站数据。

出站事件由上下方向处理，如图右侧所示。出站 Handler 处理程序一般会生成或转换出站传输，例如 write 请求。

I/O 线程一般执行实际的输出操做，例如 SocketChannel.write（ByteBuffer）。

在 Netty 中每一个 Channel 都有且仅有一个 ChannelPipeline 与之对应，它们的组成关系以下：

 

一个 Channel 包含了一个 ChannelPipeline，而 ChannelPipeline 中又维护了一个由 ChannelHandlerContext 组成的双向链表，而且每一个 ChannelHandlerContext 中又关联着一个 ChannelHandler。

入站事件和出站事件在一个双向链表中，入站事件会从链表 head 日后传递到最后一个入站的 handler，出站事件会从链表 tail 往前传递到最前一个出站的 handler，两种类型的 handler 互不干扰。

九、本文小结

如今推荐使用的主流稳定版本仍是 Netty4，Netty5 中使用了 ForkJoinPool，增长了代码的复杂度，可是对性能的改善却不明显，因此这个版本不推荐使用，官网也没有提供下载连接。

Netty 入门门槛相对较高，是由于这方面的资料较少，并非由于它有多难，你们其实均可以像搞透 Spring 同样搞透 Netty。

在学习以前，建议先理解透整个框架原理结构，运行过程，能够少走不少弯路。

附录：更多网络通讯方面的文章

[1] 网络编程基础资料：
《 TCP/IP详解 -  第11章·UDP：用户数据报协议》
《 TCP/IP详解 -  第17章·TCP：传输控制协议》
《 TCP/IP详解 -  第18章·TCP链接的创建与终止》
《 TCP/IP详解 -  第21章·TCP的超时与重传》
《 技术往事：改变世界的TCP/IP协议（珍贵多图、手机慎点）》
《 通俗易懂-深刻理解TCP协议（上）：理论基础》
《 通俗易懂-深刻理解TCP协议（下）：RTT、滑动窗口、拥塞处理》
《 理论经典：TCP协议的3次握手与4次挥手过程详解》
《 理论联系实际：Wireshark抓包分析TCP 3次握手、4次挥手过程》
《 计算机网络通信协议关系图（中文珍藏版）》
《 UDP中一个包的大小最大能多大？》
《 P2P技术详解(一)：NAT详解——详细原理、P2P简介》
《 P2P技术详解(二)：P2P中的NAT穿越(打洞)方案详解》
《 P2P技术详解(三)：P2P技术之STUN、TURN、ICE详解》
《 通俗易懂：快速理解P2P技术中的NAT穿透原理》
《 高性能网络编程(一)：单台服务器并发TCP链接数到底能够有多少》
《 高性能网络编程(二)：上一个10年，著名的C10K并发链接问题》
《 高性能网络编程(三)：下一个10年，是时候考虑C10M并发问题了》
《 高性能网络编程(四)：从C10K到C10M高性能网络应用的理论探索》
《 高性能网络编程(五)：一文读懂高性能网络编程中的I/O模型》
《 高性能网络编程(六)：一文读懂高性能网络编程中的线程模型》
《 鲜为人知的网络编程(一)：浅析TCP协议中的疑难杂症(上篇)》
《 鲜为人知的网络编程(二)：浅析TCP协议中的疑难杂症(下篇)》
《 鲜为人知的网络编程(三)：关闭TCP链接时为何会TIME_WAIT、CLOSE_WAIT》
《 鲜为人知的网络编程(四)：深刻研究分析TCP的异常关闭》
《 鲜为人知的网络编程(五)：UDP的链接性和负载均衡》
《 鲜为人知的网络编程(六)：深刻地理解UDP协议并用好它》
《 鲜为人知的网络编程(七)：如何让不可靠的UDP变的可靠？》
《 网络编程懒人入门(一)：快速理解网络通讯协议（上篇）》
《 网络编程懒人入门(二)：快速理解网络通讯协议（下篇）》
《 网络编程懒人入门(三)：快速理解TCP协议一篇就够》
《 网络编程懒人入门(四)：快速理解TCP和UDP的差别》
《 网络编程懒人入门(五)：快速理解为何说UDP有时比TCP更有优点》
《 网络编程懒人入门(六)：史上最通俗的集线器、交换机、路由器功能原理入门》
《 网络编程懒人入门(七)：深刻浅出，全面理解HTTP协议》
《 网络编程懒人入门(八)：手把手教你写基于TCP的Socket长链接》
《 技术扫盲：新一代基于UDP的低延时网络传输层协议——QUIC详解》
《 让互联网更快：新一代QUIC协议在腾讯的技术实践分享》
《 现代移动端网络短链接的优化手段总结：请求速度、弱网适应、安全保障》
《 聊聊iOS中网络编程长链接的那些事》
《 移动端IM开发者必读(一)：通俗易懂，理解移动网络的“弱”和“慢”》
《 移动端IM开发者必读(二)：史上最全移动弱网络优化方法总结》
《 IPv6技术详解：基本概念、应用现状、技术实践（上篇）》
《 IPv6技术详解：基本概念、应用现状、技术实践（下篇）》
《 从HTTP/0.9到HTTP/2：一文读懂HTTP协议的历史演变和设计思路》
《 脑残式网络编程入门(一)：跟着动画来学TCP三次握手和四次挥手》
《 脑残式网络编程入门(二)：咱们在读写Socket时，究竟在读写什么？》
《 脑残式网络编程入门(三)：HTTP协议必知必会的一些知识》
《 脑残式网络编程入门(四)：快速理解HTTP/2的服务器推送(Server Push)》
《 脑残式网络编程入门(五)：天天都在用的Ping命令，它究竟是什么？》
《 以网游服务端的网络接入层设计为例，理解实时通讯的技术挑战》
《 迈向高阶：优秀Android程序员必知必会的网络基础》
>>  更多同类文章 ……
[2] NIO异步网络编程资料：
《 Java新一代网络编程模型AIO原理及Linux系统AIO介绍》
《 NIO框架入门(一)：服务端基于Netty4的UDP双向通讯Demo演示》
《 NIO框架入门(二)：服务端基于MINA2的UDP双向通讯Demo演示》
《 NIO框架入门(三)：iOS与MINA二、Netty4的跨平台UDP双向通讯实战》
《 NIO框架入门(四)：Android与MINA二、Netty4的跨平台UDP双向通讯实战》
《 Apache Mina框架高级篇（一）：IoFilter详解》
《 Apache Mina框架高级篇（二）：IoHandler详解》
《 MINA2 线程原理总结（含简单测试实例）》
《 Apache MINA2.0 开发指南（中文版）[附件下载]》
《 MINA、Netty的源代码（在线阅读版）已整理发布》
《 解决MINA数据传输中TCP的粘包、缺包问题（有源码）》
《 解决Mina中多个同类型Filter实例共存的问题》
>>  更多同类文章 ……

（本文同步发布于：http://www.52im.net/thread-2043-1-1.html）