Java学习笔记之NETTY自学路线简析

这几天在开发java server端代码，用nio框架开发，目前比较好的有mina和netty，通过比较后来选择了netty做为咱们的开发框架。 学习netty最重要的资料就是官方文档，我认为这也是学习其余框架共同的地方，主要都是英文的看起来可能比较累，在看的过程当中结合查询到的中文资料效果会比较好。 netty原理篇： Netty是事件驱动的，能够经过ChannelHandler链来控制执行流向。 ChannelHandler ChannelHandler链的执行过程是在 subReactor中同步的，因此若是业务处理handler耗时长，将严重影响可支持的并发数。 Netty的可扩展性很是好，而像ChannelHandler线程池化的须要，能够经过在 ChannelPipeline中添加Netty内置的ChannelHandler实现类–ExecutionHandler实现，对使用者来讲只是 添加一行代码而已。对于ExecutionHandler须要的线程池模型，Netty提供了两种可 选：1） MemoryAwareThreadPoolExecutor 可控制Executor中待处理任务的上限（超过上限时，后续进来的任务将被阻 塞），并可控制单个Channel待处理任务的上限；2） OrderedMemoryAwareThreadPoolExecutor 是 MemoryAwareThreadPoolExecutor 的子类，它还能够保证同一Channel中处理的事件流的顺序性，这主要是控制事件在异步处 理模式下可能出现的错误的事件顺序，但它并不保证同一Channel中的事件都在一个线程中执行（一般也不必）。通常来 说，OrderedMemoryAwareThreadPoolExecutor 是个很不错的选择，固然，若是有须要，也能够DIY一个。 ChannelPipeline p = Channels.pipeline(); /** * 采用默认ChannelPipeline管道 * 这意味着同一个DLPServerHandler实例将被多个Channel通道共享 * 这种方式对于DLPServerHandler中无有状态的成员变量是能够的，而且能够提升性能！,没有验证。 */ ServerBootstrap serverBootstrap; ChannelPipeline pipeline=serverBootstrap.getPipeline(); 服务端程序一般的处理过程是：解码请求数据、业务逻辑处理、编码响应。从框架角度来讲，能够提供3个接口来控制并调度该处理过程；从更通用的角度来讲，并不特化处理其中的每一步，而把每一步当作过滤器链中的一环，这也是Netty的作法。Netty对请求处理过程实现了过滤器链模式（ChannelPipeline），每一个过滤器实现了ChannelHandler接口。Netty中有两种请求事件流类型也作了细分： 1）downstream event：其对应的ChannelHandler子接口是ChannelDownstreamHandler。downstream event是说从头至尾执行ChannelPipeline中的ChannelDownstreamHandler，这一过程至关于向外发送数据的过程。 downstream event有：”write”、”bind”、”unbind”、 “connect”、 “disconnect”、”close”。 2）upstream event：其对应的ChannelHandler子接口是ChannelUpstreamHandler。upstream event处理的事件方向和downstream event相反，这一过程至关于接收处理外来请求的过程。upstream event有：”messageReceived”、 “exceptionCaught”、”channelOpen”、”channelClosed”、 “channelBound”、”channelUnbound”、 “channelConnected”、”writeComplete”、”channelDisconnected”、”channelInterestChanged”。 Netty中有个注释 @interface ChannelPipelineCoverage，它表示被注释的ChannelHandler是否能添加到多个ChannelPipeline中，其可选的值是”all”和”one”。”all”表示ChannelHandler是无状态的，可被多个ChannelPipeline共享，而”one”表示ChannelHandler只做用于单个ChannelPipeline中。但ChannelPipelineCoverage只是个注释而已，并无实际的检查做用。对于ChannelHandler是”all”仍是”one”，仍是根据逻辑须要而定。好比，像解码请求handler，由于可能解码的数据不完整，须要等待下一次读事件来了以后再继续解析，因此解码请求handler就须要是”one”的（不然多个Channel共享数据就乱了）。而像业务逻辑处理hanlder一般是”all”的。 (1)该upstream事件流中，首先通过MessageDecoder，其会将decode返回的解码后的数据构形成 MessageEvent.getMessage()，因此在handler上下文关系中，MessageEvent.getMessage()并不必定都返回ChannelBuffer类型的数据。 (2)MessageServerHandler的e.getChannel().write(msg);操做将触发DownstreamMessageEvent事件，也就是调用MessageEncoder将编码的数据返回给客户端。 建立了ChannelHandler，须要将他们注册到ChannelPipeline，而ChannelPipeline又是和Channel对应的（是全局单例仍是每一个Channel对应一个ChannelPipeline实例依赖于实现）。能够实现ChannelPipeline的工厂接口 ChannelPipelineFactory实现该目的。 核心类：buffer 该包核心的接口是ChannelBuffer和ChannelBufferFactory,下面予以简要的介绍。 Netty使用ChannelBuffer来存储并操做读写的网络数据。ChannelBuffer除了提供和ByteBuffer相似的方法，还 提供了 一些实用方法，具体可参考其API文档。 ChannelBuffer的实现类有多个，这里列举其中主要的几个： 　　1）HeapChannelBuffer：这是Netty读网络数据时默认使用的ChannelBuffer，这里的Heap就是Java堆的意 思，由于 读SocketChannel的数据是要通过ByteBuffer的，而ByteBuffer实际操做的就是个byte数组，因此 ChannelBuffer的内部就包含了一个byte数组，使得ByteBuffer和ChannelBuffer之间的转换是零拷贝方式。根据网络字 节续的不一样，HeapChannelBuffer又分为BigEndianHeapChannelBuffer和 LittleEndianHeapChannelBuffer，默认使用的是BigEndianHeapChannelBuffer。Netty在读网络 数据时使用的就是HeapChannelBuffer，HeapChannelBuffer是个大小固定的buffer，为了避免至于分配的Buffer的 大小不太合适，Netty在分配Buffer时会参考上次请求须要的大小。 　　2）DynamicChannelBuffer：相比于HeapChannelBuffer，DynamicChannelBuffer可动态自适 应大 小。对于在DecodeHandler中的写数据操做，在数据大小未知的状况下，一般使用DynamicChannelBuffer。 　　3）ByteBufferBackedChannelBuffer：这是directBuffer，直接封装了ByteBuffer的 directBuffer。 　　对于读写网络数据的buffer，分配策略有两种：1）一般出于简单考虑，直接分配固定大小的buffer，缺点是，对一些应用来讲这个大小限制有 时是不 合理的，而且若是buffer的上限很大也会有内存上的浪费。2）针对固定大小的buffer缺点，就引入动态buffer，动态buffer之于固定 buffer至关于List之于Array。 　　buffer的寄存策略常见的也有两种（实际上是我知道的就限于此）：1）在多线程（线程池） 模型下，每一个线程维护本身的读写buffer，每次处理新的请求前清空buffer（或者在处理结束后清空），该请求的读写操做都须要在该线程中完成。 2）buffer和socket绑定而与线程无关。两种方法的目的都是为了重用buffer。 　　Netty对buffer的处理策略是：读 请求数据时，Netty首先读数据到新建立的固定大小的HeapChannelBuffer中，当HeapChannelBuffer满或者没有数据可读 时，调用handler来处理数据，这一般首先触发的是用户自定义的DecodeHandler，由于handler对象是和ChannelSocket 绑定的，因此在DecodeHandler里能够设置ChannelBuffer成员，当解析数据包发现数据不完整时就终止这次处理流程，等下次读事件触 发时接着上次的数据继续解析。就这个过程来讲，和ChannelSocket绑定的DecodeHandler中的Buffer一般是动态的可重用 Buffer（DynamicChannelBuffer），而在NioWorker中读ChannelSocket中的数据的buffer是临时分配的 固定大小的HeapChannelBuffer，这个转换过程是有个字节拷贝行为的。 　　对ChannelBuffer的建立，Netty内部使用的是ChannelBufferFactory接口，具体的实现有 DirectChannelBufferFactory和HeapChannelBufferFactory。对于开发者建立 ChannelBuffer，可以使用实用类ChannelBuffers中的工厂方法。 Channel 　从该结构图也能够看到，Channel主要提供的功能以下： 　　1）当前Channel的状态信息，好比是打开仍是关闭等。 　　2）经过ChannelConfig能够获得的Channel配置信息。 　　3）Channel所支持的如read、write、bind、connect等IO操做。 　　4）获得处理该Channel的ChannelPipeline，既而能够调用其作和请求相关的IO操做。 　　在Channel实现方面，以一般使用的nio socket来讲，Netty中的NioServerSocketChannel和NioSocketChannel分别封装了java.nio中包含的 ServerSocketChannel和SocketChannel的功能。 Netty是事件驱动的，其经过ChannelEvent来肯定事件流的方向。一个ChannelEvent是依附于Channel的 ChannelPipeline来处理，并由ChannelPipeline调用ChannelHandler来作具体的处理。 对于使用者来讲，在ChannelHandler实现类中会使用继承于ChannelEvent的MessageEvent，调用其 getMessage()方法来得到读到的ChannelBuffer或被转化的对象。 Netty 在事件处理上，是经过ChannelPipeline来控制事件流，经过调用注册其上的一系列ChannelHandler来处理事件，这也是典型的拦截 器模式。 在事件流的过滤器链 中，ChannelUpstreamHandler或ChannelDownstreamHandler既能够终止流程，也能够经过调用 ChannelHandlerContext.sendUpstream(ChannelEvent)或 ChannelHandlerContext.sendDownstream(ChannelEvent)将事件传递下去。 codec framework 　　对于请求协议的编码解码，固然是能够按照协议格式本身操做ChannelBuffer中的字节数据。另外一方面，Netty也作了几个很实用的 codec helper，这里给出简单的介绍。 　　1）FrameDecoder：FrameDecoder内部维护了一个 DynamicChannelBuffer成员来存储接收到的数据，它就像个抽象模板，把整个解码过程模板写好了，其子类只需实现decode函数便可。 FrameDecoder的直接实现类有两个：（1）DelimiterBasedFrameDecoder是基于分割符 （好比\r\n）的解码器，可在构造函数中指定分割符。（2）LengthFieldBasedFrameDecoder是基于长度字段的解码器。若是协 议 格式相似“内容长度”+内容、“固定头”+“内容长度”+动态内容这样的格式，就可使用该解码器，其使用方法在API DOC上详尽的解释。 　　2）ReplayingDecoder： 它是FrameDecoder的一个变种子类，它相对于FrameDecoder是非阻塞解码。也就是说，使用 FrameDecoder时须要考虑到读到的数据有多是不完整的，而使用ReplayingDecoder就能够假定读到了所有的数据。 3）ObjectEncoder 和ObjectDecoder：编码解码序列化的Java对象。