深刻拆解Tomcat & Jetty-学习笔记（3）模块二之tomcat如何实现一键启停和顶层组件

tomcat如何实现一键启停

静态类图

动态启动

若是想让一个系统可以对外提供服务，咱们须要建立、组装并启动这些组件；在服务中止的时候，咱们还须要释放资源，销毁这些组件，所以这是一个动态的过程。也就是说，Tomcat 须要动态地管理这些组件的生命周期。

组件之间的关系

• 第一层关系是组件有大有小，大组件管理小组件，好比 Server 管理 Service，Service 又管理链接器和容器。
• 第二层关系是组件有外有内，外层组件控制内层组件，好比链接器是外层组件，负责对外交流，外层组件调用内层组件完成业务功能。 也就是说，请求的处理过程是由外层组件来驱动的。这两层关系决定了系统在建立组件时应该遵循必定的顺序。
• 第一个原则是先建立子组件，再建立父组件，子组件须要被“注入”到父组件中。
• 第二个原则是先建立内层组件，再建立外层组件，内层组建须要被“注入”到外层组件。

一键式启停：Lifecycle 接口

设计就是要找到系统的变化点和不变点。

• 组件建立所须要经历的 建立，初始化，启动着几个过程是不变的。
• 变化的只是不一样的组件，这些方法的实现不同。 所以，咱们把不变点抽象出来成为一个接口，这个接口跟生命周期有关，叫做 Lifecycle。Lifecycle 接口里应该定义这么几个方法：init、start、stop 和 destroy，每一个具体的组件去实现这些方法。

组合模式的

在父组件的 init 方法里须要建立子组件并调用子组件的 init 方法。一样，在父组件的 start 方法里也须要调用子组件的 start 方法，所以调用者能够无差异的调用各组件的 init 方法和 start 方法，这就是组合模式的使用

观察者模式

组件的 init 和 start 调用是由它的父组件的状态变化触发的，上层组件的初始化会触发子组件的初始化，上层组件的启动会触发子组件的启动，所以咱们把组件的生命周期定义成一个个状态，把状态的转变看做是一个事件。而事件是有监听器的，在监听器里能够实现一些逻辑，而且监听器也能够方便的添加和删除，这就是典型的观察者模式

在LifecycleBase已然使用观察者模式

private final List<LifecycleListener> lifecycleListeners = new CopyOnWriteArrayList<>();


    /** * Allow sub classes to fire {@link Lifecycle} events. * * @param type Event type * @param data Data associated with event. */
    protected void fireLifecycleEvent(String type, Object data) {
        LifecycleEvent event = new LifecycleEvent(this, type, data);
        for (LifecycleListener listener : lifecycleListeners) {
            listener.lifecycleEvent(event);
        }
    }
复制代码

模板模式

接口可能有多个实现类，为了不每一个实现类都去实现一些重复的逻辑。能够定义一个基类来实现共同的逻辑。而基类中每每会定义一些抽象方法，所谓的抽象方法就是说基类不会去实现这些方法，而是调用这些方法来实现骨架逻辑。抽象方法是留给各个子类去实现的，而且子类必须实现，不然没法实例

注意下图注释中的描述。

/** * {@inheritDoc} */
    @Override
    public final synchronized void start() throws LifecycleException {

        if (LifecycleState.STARTING_PREP.equals(state) || LifecycleState.STARTING.equals(state) ||
                LifecycleState.STARTED.equals(state)) {

            if (log.isDebugEnabled()) {
                Exception e = new LifecycleException();
                log.debug(sm.getString("lifecycleBase.alreadyStarted", toString()), e);
            } else if (log.isInfoEnabled()) {
                log.info(sm.getString("lifecycleBase.alreadyStarted", toString()));
            }

            return;
        }

        if (state.equals(LifecycleState.NEW)) {
            init();
        } else if (state.equals(LifecycleState.FAILED)) {
            stop();
        } else if (!state.equals(LifecycleState.INITIALIZED) &&
                !state.equals(LifecycleState.STOPPED)) {
            invalidTransition(Lifecycle.BEFORE_START_EVENT);
        }

        try {
            setStateInternal(LifecycleState.STARTING_PREP, null, false);
            startInternal();  //骨架代码中调用的预留的抽象方法，未来每一个子类在使用本方法的时候，就是调用的它本身实现了startInternal
            if (state.equals(LifecycleState.FAILED)) {
                stop();
            } else if (!state.equals(LifecycleState.STARTING)) {
                invalidTransition(Lifecycle.AFTER_START_EVENT);
            } else {
                setStateInternal(LifecycleState.STARTED, null, false);
            }
        } catch (Throwable t) {
            handleSubClassException(t, "lifecycleBase.startFail", toString());
        }
    }
复制代码

生周期管理整体类图

connector的线程池是只处理链接的线程池，仍是后台任务都共用的线程池？

Connector上的线程池负责处理这个它所接收到的全部请求。一个Connector有一个线程池。其余的后台任务也有专门的线程池，不会占用Connector的线程池。

其它精彩连接

• 和你们分享一篇介绍Tomcat启动的文章, 从startup.bat的源码开始分析的.www.cnblogs.com/tanshaoshen…
• 怎么启动Tomcat的源码、调试。怎么读源码。建议跟SpringBoot那样，用嵌入式方式启动Tomcat，这里有例子https://github.com/heroku/devcenter-embedded-tomcat

Tomcat的“高层们”都负责作什么？

执行startup.sh启动脚本后，执行了什么？

• Tomcat 本质是 Java 程序, startup.sh 启动 JVM 运行 Tomcat 启动类 bootstrap
• Bootstrap 初始化类加载器, 建立 Catalina
• Catalina 解析 server.xml, 建立相应组件, 调用 Server start 方法
• Server 组件管理 Service 组件并调用其 start 方法
• Service 负责管理链接器和顶层容器 Engine, 其会调用 Engine start 方法- 这些类不处理具体请求, 主要管理下层组件, 并分配请求
• 一个比喻： 若是咱们把 Tomcat 比做是一家公司，
  • 那么 Catalina 应该是公司创始人，由于 Catalina 负责组建团队，也就是建立 Server 以及它的子组件。
  • Server 是公司的 CEO，负责管理多个事业群，每一个事业群就是一个 Service。
  • Service 是事业群总经理，它管理两个职能部门：一个是对外的市场部，也就是链接器组件；另外一个是对内的研发部，也就是容器组件。
  • Engine 则是研发部经理，由于 Engine 是最顶层的容器组件。

Catalina 功能

• 解析 server.xml, 建立定义的各组件, 调用 server init 和 start 方法
• 处理异常状况, 例如 ctrl + c 关闭 Tomcat. 其会在 JVM 中注册"关闭钩子"
  • 关闭钩子, 在关闭 JVM 时作清理工做, 例如刷新缓存到磁盘
  • 关闭钩子是一个线程, JVM 中止前会执行器 run 方法, 该 run 方法调用 server stop 方法

//建立并注册关闭钩子
     if (useShutdownHook) {
                if (shutdownHook == null) {
                    shutdownHook = new CatalinaShutdownHook();
                }
                Runtime.getRuntime().addShutdownHook(shutdownHook);//关闭钩子其实就是一个实现了run方法的线程对象。
    }            
复制代码

Server 组件

• 实现类 StandServer 继承了 LifeCycleBase
• 子组件是 Service, 须要管理其生命周期(调用其 LifeCycle 的方法), 用数组保存多个 Service 组件, 动态扩容数组来添加组件
• 启动一个 socket Listen中止端口, Catalina 启动时, 调用 Server await 方法, 其建立 socket Listen 8005 端口, 并在死循环中等链接, 检查到 shutdown 命令, 调用 stop 方法

Service 组件,

• 实现类 StandService   包含 Server, Connector, Engine 和 Mapper 组件的成员变量
• 还包含 MapperListener 成员变量, 以支持热部署, 其Listen容器变化, 并更新 Mapper, 是观察者模式
• 需注意各组件启动顺序, 根据其依赖关系肯定
• 先启动 Engine, 再启动 Mapper Listener, 最后启动链接器, 而中止顺序相反.

Engine 组件

• 实现类 StandEngine 继承 ContainerBase
• ContainerBase 实现了维护子组件的逻辑, 用 HaspMap 保存子组件, 所以各层容器可重用逻辑
• ContainerBase 用专门线程池启动子容器, 并负责子组件启动/中止, "增删改查"
• 请求到达 Engine 以前, Mapper 经过 URL 定位了容器, 并存入 Request 中. Engine 从 Request 取出 Host 子容器, 并调用其 pipeline 的第一个 valve

在实际应用场景中，tomcat在shutdown的时候，没法杀死java进程，还得kill，这是为什么呢？

Tomcat会调用Web应用的代码来处理请求，可能Web应用代码阻塞在某个地方。

tomcat通常生产环境线程数大小建议怎么设置呢

理论上：线程数=（(线程阻塞时间 + 线程忙绿时间) / 线程忙碌时间) * cpu核数若是线程始终不阻塞，一直忙碌，会一直占用一个CPU核，所以能够直接设置 线程数=CPU核数。可是现实中线程可能会被阻塞，好比等待IO。所以根据上面的公式肯定线程数。那怎么肯定线程的忙碌时间和阻塞时间？要通过压测，在代码中埋点统计.

connector的线程池设置成800合理吗?

问题：刚到新公司，看他们把一个tomact的connector的线程池设置成800，这个太夸张了吧，connector的线程池只是用来处理接收的http请求，线程池不会用来处理其余业务自己的事情，设置再大也只能提升请求的并发，并不能提升系统的响应，让这个线程池干其余的事情，并且线程数过高，线程上下文切换时间也高，反而会下降系统的响应速度吧？我理解是否是对的，老师？还有一个问题就是设置的connector线程数，是tomcat启动的时候就会初始化这么多固定的线程仍是这只是一个上限，还有就是若是线程处于空闲状态，会不会进行上下文切换呢？

解答：这里误解了Connector中的线程池，这个线程池就是用来处理业务的。另外你提到线程数设的过高，会有线程切换的开销，这是对的。线程数具体设多少，根据具体业务而定，若是你的业务是IO密集型的，好比大量线程等待在数据库读写上，线程数应该设的越高。若是是CPU密集型，彻底没有阻塞，设成CPU核数就行。800这个数有点高，我猜大家的应用属于IO密集型。

备注

本文是我我的学习了李号双老师的专栏课程以后，结合专栏文章和老师对同窗答疑整理的学习笔记。仅供分享。更多精彩内容，你们能够扫描下方二位码，在极客时间订阅李号双老师的《深刻拆解Tomcat & Jetty》。获取一手学习资料。