在前面的分析中介绍过,Acceptor的做用是控制与tomcat创建链接的数量,但Acceptor仅仅负责创建链接。socket内容的读写是经过Poller来实现的。
Poller使用java nio来实现链接的管理。
关于nio。主要需要明白三个概念:Channel、Selector和SelectionKey.
在这里的使用上。它们之间的关系可以简单这样理解,Channel必须注冊到Selector上才干用于接收socket数据。在Selector上有数据到达的Channel可以用SelectionKey来表示
[注冊]
Poller使用nio来进行socket数据的读写,一个经过Poller的register方法,注冊到Poller上。
对Poller的注冊。先进入Poller内部维护的一个事件队列上。
Poller线程在运行过程当中会去检查队列,将channel注冊到selector上。为了保证在多线程同一时候訪问时数据的一致性,这个队 java
列是一个SynchronizedQueue,使用synchronized来保证对队列中数据的一致性。
注冊的时候。每个channel会有KeyAttachment对象,用来进行channel上的多线程并发运行时的控制。
ServerSocketChannel创建链接是在Acceptor上。
[队列]
队列定义例如如下
private
final
SynchronizedQueue<PollerEvent> events =
new
SynchronizedQueue<>();
队列中的每个元素是PollerEvent对象,它携带完毕的处理channel相关的信息。每个事件在处理过程当中。会依据事件的状态。来实现Channel到Selector上的注冊。队列处理完毕后,每个注冊到Poller上的channel就完毕了到Selector上的注冊。缓存
[socket数据读取]
Poller线程的run方法的主题部分使用while(true)的无限循环来运行。当所属的Endpoint正常运行的时候,在每次运行过程当中,处理其事件队列,调用selector来读取数据,而后处理读取到的数据。
在run方法中。会调用 events方法来处理事件队列
调用selector.selectNow或selector.select(xxx)来获取有数据到达的channel
[Poller缓存]
在Poller中使用的缓存是来其所属的Endpoint的缓存。keyCache和eventCache
eventCache是PollerEvent事件的缓存,在Poller上注冊的时候,从eventCache中取出PollerEvent对象。重置这个对象。而后再放入Poller的事件队列中。Poller在处理队列的过程当中。每从队列中取出一个要处理的PollerEvent事件,处理完以后,把这个PollerEvent对象放回缓存中。 ---- 避免频繁地建立PollerEvent对象和GC回收。
keyCache是相应的socket信息的缓存,在Poller上注冊的时候。从keyCache中取出KeyAttachment对象。重置这个对象,做用附件用于channel到selector上的注冊。在Processor处理完数据以后。将这个KeyAttachment对象放回keyCache中。 ----- 避免频繁地建立KeyAttachment对象和GC回收。
[多线程并发控制]
events队列。为SychronizedQueue<PollerEvent>,SychronizedQueue提供的offer、poll、size和clear方法都使用了sychronizedkeyword进行修饰,用来保证同一时刻仅仅有一个线程能对队列进行读写。
系统中是同一时候有多个Poller线程在执行的。每个Polle线程有各自的events队列。但每个Poller线程可能同一时候被多个Acceptor线程调用进行注冊。
[属性说明]
Poller的属性例如如下
private
Selector selector;
private
final
SynchronizedQueue<PollerEvent> events =
new
SynchronizedQueue<>();
private
volatile
boolean
close =
false
;
private
long
nextExpiration = 0;
//optimize expiration handling
private
AtomicLong wakeupCounter =
new
AtomicLong(0);
private
volatile
int
keyCount = 0;
selector,java nio必备组成部分
events 当前Poller的事件队列,主要是channel注冊事件
close 当前Poller是否可用的状态开关
nextExpiration 当前链接到此Poller上的socket超时的时限点。Poller线程在其run方法的每遍运行过程当中。会调用timeout方法来检查当前链接的socket,是否达到了超时的时限,假设达到了超时的时限。则告诉client链接超时。tomcat
每次运行完timeout方法后。会又一次设置nextExpiration的值多线程
wakeupCounter的做用:一、告诉Poller当前有多少个新链接,这样当Poller进行selector的操做时,可以选择是否需要堵塞来等待读写请求到达。二、标识Poller在进行select选择时。是否有链接到达。并发
假设有,就让当前的堵塞调用立刻返回socket
这个地方比較隐晦,结合代码来进行解释
channel注冊到Poller时运行的部分代码
private
void
addEvent(PollerEvent event) {
events.offer(event);
if
( wakeupCounter.incrementAndGet() == 0 ) selector.wakeup();
}
Poller的run方法部分代码
if
(wakeupCounter.getAndSet(-1) > 0) {
//if we are here, means we have other stuff to do
//do a non blocking select
keyCount = selector.selectNow();
}
else
{
keyCount = selector.select(selectorTimeout);
}
wakeupCounter.set(0);
考虑如下的两个场景:
做用一。帮助Poller选择select方法
在run运行时,当前已经有了5个channel注冊到Poller上。因此
wakeupCounter.getAndSet(-1) > 0 条件知足,Poller调用selector的非堵塞模式的select方法被调用
做用二,让当前堵塞的select方法立刻返回
在run运行时,假设当前没有channel注冊到Poller上,
wakeupCounter.getAndSet(-1) > 0
条件不知足。但wakeupCounter的值已经被设为-1了。Poller调用堵塞的select方法。在这期间,假设有新的channel注冊进来,则
wakeupCounter.incrementAndGet() == 0条件知足。select.wakeup方法被调用。让
selector.select(selectorTimeout)方法立刻返回。
keyCount 注冊到Poller的channel中,I/O状态已经OK的的个数