Tomcat怎么实现异步Servlet

有时Servlet在生成响应报文前必须等待某些耗时的操做，好比在等待一个可用的JDBC链接或等待一个远程Web服务的响应。对于这种状况servlet规范中定义了异步处理方式，因为Servlet中等待阻塞会致使Web容器总体的处理能力低下，因此对于比较耗时的操做能够放置到另一个线程中进行处理，此过程保留链接的请求和响应对象，在处理完成以后能够把处理的结果通知到客户端。

下面先看Servlet在同步状况下的处理过程，如图所示，Tomcat的客户端请求由管道处理最后会经过Wrapper容器的管道，这时它会调Servlet实例的service方法进行逻辑处理，处理完后响应客户端，整个处理由Tomcat的Executor线程池的线程处理，而线程池的最大线程数使有限制的，因此这个处理过程越短、越快把线程让回线程池就越好。但若是Servlet中的处理逻辑耗时越长就会致使长期地占用Tomcat的处理线程池，影响Tomcat的总体处理能力。

Servlet同步处理

为了解决上面的问题引入了支持异步的Servlet，一样是客户端请求到来，而后经过管道最后进入到Wrapper容器的管道，调用Servlet实例的service后，建立一个异步上下文将耗时的逻辑操做封装起来，交给用户本身定义的线程池，这时Tomcat的处理线程就能立刻回到Executor线程池，而不用等待耗时的操做完成才让出线程，从而提高了Tomcat的总体处理能力。这里要注意的是，因为后面作完耗时的操做后还须要对客户端响应，因此须要保持住Request和Response对象，以便输出响应报文到客户端。

Servlet异步处理

再结合一个简单的异步代码来看Tomcat对Servlet异步的实现：

public class AsyncServlet extends HttpServlet {

    ScheduledThreadPoolExecutor userExecutor = new ScheduledThreadPoolExecutor(5);

    public void doGet(HttpServletRequest req, HttpServletResponse res) {
        AsyncContext aCtx = req.startAsync(req, res);
        userExecutor.execute(new AsyncHandler(aCtx));
    }

}

public class AsyncHandler implements Runnable {

    private AsyncContext ctx;

    public AsyncHandler(AsyncContext ctx) {
        this.ctx = ctx;
    }

    @Override
    public void run() {
        //耗时操做
        PrintWriter pw;
        try {
            pw = ctx.getResponse().getWriter();
            pw.print("done!");
            pw.flush();
            pw.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
        ctx.complete();
    }
}复制代码

咱们建立一个AsyncServlet，它定义了一个userExecutor线程池专门用于处理该Servlet的全部请求的耗时的逻辑操做。这样就不会占用Tomcat内部的Executor线程池，影响到对其余Servlet的处理。这种思想有点像资源隔离，耗时的操做统一由指定的线程池处理，而不要影响其它耗时少的请求处理。

Servlet的异步的实现就很好理解了，startAsync方法其实就是建立了一个异步上下文AsyncContext对象，该对象封装了请求和响应对象。而后建立一个任务用于处理耗时逻辑，后面经过AsyncContext对象得到响应对象并对客户端响应，输出“done!”。完成后要经过complete方法告诉Tomcat内部我已经处理完，Tomcat就会请求对象和响应对象进行回收处理或关闭链接。

欢迎关注：