物联网高并发编程之网络编程中的线程模型

时间 2019-12-05

原文原文链接

如需了解更多物联网网络编程知识请点击：物联网云端开发武器库php

物联网高并发编程之网络编程中的线程模型

值得说明的是，具体选择线程仍是进程，更可能是与平台及编程语言相关。

例如 C 语言使用线程和进程均可以(例如 Nginx 使用进程，Memcached 使用线程)，Java 语言通常使用线程(例如 Netty)，为了描述方便，下面都使用线程来进行描述。

编程

线程模型1：传统阻塞 I/O 服务模型

特色：

缓存

1）采用阻塞式 I/O 模型获取输入数据；
2）每一个链接都须要独立的线程完成数据输入，业务处理，数据返回的完整操做。

存在问题：服务器

1）当并发数较大时，须要建立大量线程来处理链接，系统资源占用较大；
2）链接创建后，若是当前线程暂时没有数据可读，则线程就阻塞在 Read 操做上，形成线程资源浪费。

线程模型2：Reactor 模式

基本介绍

针对传统阻塞 I/O 服务模型的 2 个缺点，比较常见的有以下解决方案： 网络

1）基于 I/O 复用模型：多个链接共用一个阻塞对象，应用程序只须要在一个阻塞对象上等待，无需阻塞等待全部链接。当某条链接有新的数据能够处理时，操做系统通知应用程序，线程从阻塞状态返回，开始进行业务处理；
2）基于线程池复用线程资源：没必要再为每一个链接建立线程，将链接完成后的业务处理任务分配给线程进行处理，一个线程能够处理多个链接的业务。

Reactor 模式，是指经过一个或多个输入同时传递给服务处理器的服务请求的事件驱动处理模式。

服务端程序处理传入多路请求，并将它们同步分派给请求对应的处理线程，Reactor 模式也叫 Dispatcher 模式。

即 I/O 多了复用统一监听事件，收到事件后分发(Dispatch 给某进程)，是编写高性能网络服务器的必备技术之一。

Reactor 模式中有 2 个关键组成：

多线程

1）Reactor：Reactor 在一个单独的线程中运行，负责监听和分发事件，分发给适当的处理程序来对 IO 事件作出反应。它就像公司的电话接线员，它接听来自客户的电话并将线路转移到适当的联系人；
2）Handlers：处理程序执行 I/O 事件要完成的实际事件，相似于客户想要与之交谈的公司中的实际官员。Reactor 经过调度适当的处理程序来响应 I/O 事件，处理程序执行非阻塞操做。

根据 Reactor 的数量和处理资源池线程的数量不一样，有 3 种典型的实现：并发

1）单 Reactor 单线程；
2）单 Reactor 多线程；
3）主从 Reactor 多线程。

单 Reactor 单线程

其中，Select 是前面 I/O 复用模型介绍的标准网络编程 API，能够实现应用程序经过一个阻塞对象监听多路链接请求，其余方案示意图相似。

方案说明：

异步

1）Reactor 对象经过 Select 监控客户端请求事件，收到事件后经过 Dispatch 进行分发；
2）若是是创建链接请求事件，则由 Acceptor 经过 Accept 处理链接请求，而后建立一个 Handler 对象处理链接完成后的后续业务处理；
3）若是不是创建链接事件，则 Reactor 会分发调用链接对应的 Handler 来响应；
4）Handler 会完成 Read→业务处理→Send 的完整业务流程。

优势：模型简单，没有多线程、进程通讯、竞争的问题，所有都在一个线程中完成。
缺点：性能问题，只有一个线程，没法彻底发挥多核 CPU 的性能。Handler 在处理某个链接上的业务时，整个进程没法处理其余链接事件，很容易致使性能瓶颈。编程语言

可靠性问题，线程意外跑飞，或者进入死循环，会致使整个系统通讯模块不可用，不能接收和处理外部消息，形成节点故障。函数

使用场景：客户端的数量有限，业务处理很是快速，好比 Redis，业务处理的时间复杂度 O(1)。

单 Reactor 多线程

方案说明：

1）Reactor 对象经过 Select 监控客户端请求事件，收到事件后经过 Dispatch 进行分发；
2）若是是创建链接请求事件，则由 Acceptor 经过 Accept 处理链接请求，而后建立一个 Handler 对象处理链接完成后续的各类事件；
3）若是不是创建链接事件，则 Reactor 会分发调用链接对应的 Handler 来响应；
4）Handler 只负责响应事件，不作具体业务处理，经过 Read 读取数据后，会分发给后面的 Worker 线程池进行业务处理；
5）Worker 线程池会分配独立的线程完成真正的业务处理，将响应结果发给 Handler 进行处理；
6）Handler 收到响应结果后经过 Send 将响应结果返回给 Client。

优势：能够充分利用多核 CPU 的处理能力。
缺点：多线程数据共享和访问比较复杂；Reactor 承担全部事件的监听和响应，在单线程中运行，高并发场景下容易成为性能瓶颈。

主从 Reactor 多线程

针对单 Reactor 多线程模型中，Reactor 在单线程中运行，高并发场景下容易成为性能瓶颈，可让 Reactor 在多线程中运行。

方案说明：

1）Reactor 主线程 MainReactor 对象经过 Select 监控创建链接事件，收到事件后经过 Acceptor 接收，处理创建链接事件；
2）Acceptor 处理创建链接事件后，MainReactor 将链接分配 Reactor 子线程给 SubReactor 进行处理；
3）SubReactor 将链接加入链接队列进行监听，并建立一个 Handler 用于处理各类链接事件；
4）当有新的事件发生时，SubReactor 会调用链接对应的 Handler 进行响应；
5）Handler 经过 Read 读取数据后，会分发给后面的 Worker 线程池进行业务处理；
6）Worker 线程池会分配独立的线程完成真正的业务处理，如何将响应结果发给 Handler 进行处理；
7）Handler 收到响应结果后经过 Send 将响应结果返回给 Client。

优势：父线程与子线程的数据交互简单职责明确，父线程只须要接收新链接，子线程完成后续的业务处理。

父线程与子线程的数据交互简单，Reactor 主线程只须要把新链接传给子线程，子线程无需返回数据。

这种模型在许多项目中普遍使用，包括 Nginx 主从 Reactor 多进程模型，Memcached 主从多线程，Netty 主从多线程模型的支持。

小结

3 种模式能够用个比喻来理解：（餐厅经常雇佣接待员负责迎接顾客，当顾客入坐后，侍应生专门为这张桌子服务）

1）单 Reactor 单线程，接待员和侍应生是同一我的，全程为顾客服务；
2）单 Reactor 多线程，1 个接待员，多个侍应生，接待员只负责接待；
3）主从 Reactor 多线程，多个接待员，多个侍应生。

Reactor 模式具备以下的优势：

1）响应快，没必要为单个同步时间所阻塞，虽然 Reactor 自己依然是同步的；
2）编程相对简单，能够最大程度的避免复杂的多线程及同步问题，而且避免了多线程/进程的切换开销；
3）可扩展性，能够方便的经过增长 Reactor 实例个数来充分利用 CPU 资源；
4）可复用性，Reactor 模型自己与具体事件处理逻辑无关，具备很高的复用性。

线程模型2：Proactor 模型

在 Reactor 模式中，Reactor 等待某个事件或者可应用或者操做的状态发生（好比文件描述符可读写，或者是 Socket 可读写）。

而后把这个事件传给事先注册的 Handler（事件处理函数或者回调函数），由后者来作实际的读写操做。

其中的读写操做都须要应用程序同步操做，因此 Reactor 是非阻塞同步网络模型。

若是把 I/O 操做改成异步，即交给操做系统来完成就能进一步提高性能，这就是异步网络模型 Proactor。

Proactor 是和异步 I/O 相关的，详细方案以下：

1）Proactor Initiator 建立 Proactor 和 Handler 对象，并将 Proactor 和 Handler 都经过 AsyOptProcessor（Asynchronous Operation Processor）注册到内核；
2）AsyOptProcessor 处理注册请求，并处理 I/O 操做；
3）AsyOptProcessor 完成 I/O 操做后通知 Proactor；
4）Proactor 根据不一样的事件类型回调不一样的 Handler 进行业务处理；
5）Handler 完成业务处理。

能够看出 Proactor 和 Reactor 的区别：

1）Reactor 是在事件发生时就通知事先注册的事件（读写在应用程序线程中处理完成）；
2）Proactor 是在事件发生时基于异步 I/O 完成读写操做（由内核完成），待 I/O 操做完成后才回调应用程序的处理器来进行业务处理。

理论上 Proactor 比 Reactor 效率更高，异步 I/O 更加充分发挥 DMA(Direct Memory Access，直接内存存取)的优点。

可是Proactor有以下缺点：

1）编程复杂性，因为异步操做流程的事件的初始化和事件完成在时间和空间上都是相互分离的，所以开发异步应用程序更加复杂。应用程序还可能由于反向的流控而变得更加难以 Debug；
2）内存使用，缓冲区在读或写操做的时间段内必须保持住，可能形成持续的不肯定性，而且每一个并发操做都要求有独立的缓存，相比 Reactor 模式，在 Socket 已经准备好读或写前，是不要求开辟缓存的；
3）操做系统支持，Windows 下经过 IOCP 实现了真正的异步 I/O，而在 Linux 系统下，Linux 2.6 才引入，目前异步 I/O 还不完善。

所以在 Linux 下实现高并发网络编程都是以 Reactor 模型为主。

参考：http://www.52im.net/forum.php