I/O模型系列之五：IO多路复用 select、poll、epoll

IO多路复用之select、poll、epoll

　　IO多路复用：经过一种机制，一个进程能够监视多个描述符，一旦某个描述符就绪（通常是读就绪或者写就绪），可以通知程序进行相应的读写操做。


　　应用：适用于针对大量的io请求的状况，对于服务器必须在同时处理来自客户端的大量的io操做的时候，就很是适合

　　与多进程和多线程技术相比，I/O多路复用技术的最大优点就是系统开销小，系统没必要建立进程/线程，也没必要维护这些进程/线程，从而大大减少了系统的开销。

      目前支持I/O多路复用的系统调用有select, pselect, poll, epoll, 但他们 本质上都是同步I/O，由于他们都须要在读写事件就绪后本身负责进行读写，也就是说这个读写过程是 阻塞的，而异步I/O则无需本身负责进行读写，异步I/O的实现会负责把数据从内核拷贝到用户空间。

　　select, pselect, poll, epoll 都是属于IO设计模式Reactor的IO策略。

1、IO多路复用使用场景

IO多路复用是指内核一旦发现进程指定的一个或者多个IO条件准备读取，它就通知该进程。IO多路复用适用以下场合：

　　1）当客户处理多个描述符时（通常是交互式输入和网络套接口），必须使用I/O复用。

　　2）当一个客户同时处理多个套接口时，这种状况是可能的，但不多出现。

　　3）若是一个TCP服务器既要处理监听套接口，又要处理已链接套接口，通常也要用到I/O复用。

　　4）若是一个服务器即要处理TCP，又要处理UDP，通常要使用I/O复用。

　　5）若是一个服务器要处理多个服务或多个协议，通常要使用I/O复用。

2、select

2.1 select基本原理

　　select 函数监视的文件描述符分3类，分别是writefds、readfds、和exceptfds。调用后select函数会阻塞，直到有描述符就绪（有数据 可读、可写、或者有except），或者超时（timeout指定等待时间，若是当即返回设为null便可），函数返回。当select函数返回后，能够经过遍历fdset，来找到就绪的描述符。

2.2 select基本流程

　　

2.3 select函数原型

该函数准许进程指示内核等待多个事件中的任何一个发送，并只在有一个或多个事件发生或经历一段指定的时间后才唤醒本身。函数原型以下：

#include <sys/select.h>
#include <sys/time.h>

int select(int maxfdp1,fd_set *readset,fd_set *writeset,fd_set *exceptset,const struct timeval *timeout)
返回值：就绪描述符的数目，超时返回0，出错返回-1
函数参数介绍以下：

（1）第一个参数maxfdp1指定待测试的描述字个数，它的值是待测试的最大描述字加1（所以把该参数命名为maxfdp1）.

　　  描述字0、1、2...(maxfdp1-1)均将被测试（文件描述符是从0开始的）。

（2）中间的三个参数readset、writeset和exceptset指定咱们要让内核测试读、写和异常条件的描述字。若是对某一个的条件不感兴趣，就能够把它设为空指针。

　　  struct fd_set能够理解为一个集合，这个集合中存放的是文件描述符，可经过如下四个宏进行设置：

          void FD_ZERO(fd_set *fdset);           //清空集合
          void FD_SET(int fd, fd_set *fdset);   //将一个给定的文件描述符加入集合之中
          void FD_CLR(int fd, fd_set *fdset);   //将一个给定的文件描述符从集合中删除
          int FD_ISSET(int fd, fd_set *fdset);   // 检查集合中指定的文件描述符是否能够读写 

（3）timeout指定等待的时间，告知内核等待所指定描述字中的任何一个就绪可花多少时间。其timeval结构用于指定这段时间的秒数和微秒数。

         struct timeval{
              long tv_sec;   //seconds
              long tv_usec;  //microseconds
        };

 　　　　这个参数有三种可能：

　　　　（1）永远等待下去：仅在有一个描述字准备好I/O时才返回。为此，把该参数设置为空指针NULL。

　　　　（2）等待一段固定时间：在有一个描述字准备好I/O时返回，可是不超过由该参数所指向的timeval结构中指定的秒数和微秒数。

　　　　（3）根本不等待：检查描述字后当即返回，这称为轮询。为此，该参数必须指向一个timeval结构，并且其中的定时器值必须为0。

2.4 select优势

　　1. 跨平台。（几乎全部的平台都支持）

　　2. 时间精度高。（ns级别）

2.5 select缺点

　　1. 最大限制：单个进程可以监视的文件描述符的数量存在最大限制。(基于数组存储的赶脚)

　　　　通常来讲这个数目和系统内存关系很大，具体数目能够cat /proc/sys/fs/file-max察看。它由FD_SETSIZE设置，32位机默认是1024个。64位机默认是2048.

　　2.时间复杂度： 对socket进行扫描时是线性扫描，即采用轮询的方法，效率较低，时间复杂度O(n)。

 　　当套接字比较多的时候，每次select()都要经过遍历FD_SETSIZE个Socket来完成调度，无论哪一个Socket是活跃的，都遍历一遍。这会浪费不少CPU时间。

　　它仅仅知道有I/O事件发生了，却并不知道是哪那几个流（可能有一个，多个，甚至所有），咱们只能无差异轮询全部流，找出能读出数据，或者写入数据的流，对他们进行操做。因此 select具备O(n)的无差异轮询复杂度，同时处理的流越多，无差异轮询时间就越长。

　　3.  内存拷贝： 须要维护一个用来存放大量fd的数据结构，这样会使得用户空间和内核空间在传递该结构时复制开销大。

 

3、poll

　　改进了select最大数量限制。

3.1 poll基本原理

　　 poll本质上和select没有区别，它将用户传入的数组拷贝到内核空间，而后查询每一个fd对应的设备状态，若是设备就绪则在设备等待队列中加入一项并继续遍历，若是遍历完全部fd后没有发现就绪设备，则挂起当前进程，直到设备就绪或者主动超时，被唤醒后它又要再次遍历fd。这个过程经历了屡次无谓的遍历。

3.2 poll基本流程

　　相似select

3.3 poll函数原型

函数格式以下所示：

# include <poll.h>
# include <arpa/inet.h>
int poll ( struct pollfd * fds, unsigned int nfds, int timeout);

（1）pollfd结构体定义以下：
　　　　struct pollfd {
　　　　　　int fd;         　　　/* 文件描述符 */
　　　　　　short events;        /* 等待的事件 */
　　　　　　short revents;       /* 实际发生了的事件 */
　　　　} ; 

　每个pollfd结构体指定了一个被监视的文件描述符。所以能够传递多个结构体，指示poll()监视多个文件描述符。

（2）events域是监视该文件描述符的事件掩码，由用户来设置这个域。
　　　　POLLIN　　　　　　　　 有数据可读。
　　　　POLLRDNORM　　　　　　有普通数据可读。
　　　　POLLRDBAND　　　　　　有优先数据可读。
　　　　POLLPRI　　　　　　　　有紧迫数据可读。
　　　　POLLOUT　　　　　　　　写数据不会致使阻塞。
　　　　POLLWRNORM　　　　　　写普通数据不会致使阻塞。
　　　　POLLWRBAND　　　　　　写优先数据不会致使阻塞。
　　　　POLLMSGSIGPOLL　　　　消息可用。
（3）revents域是文件描述符的操做结果事件掩码，内核在调用返回时设置这个域。events域中请求的任何事件均可能在revents域中返回。

　　 此外，revents域中还可能返回下列事件： 　　
　　　　POLLER　　  指定的文件描述符发生错误。
　　　　POLLHUP　　 指定的文件描述符挂起事件。
　　　　POLLNVAL　　指定的文件描述符非法。 
　　 这些事件在events域中无心义，由于它们在合适的时候老是会从revents中返回。 　　 

（4）举个栗子：要同时监视一个文件描述符是否可读和可写，
　　　　咱们能够设置 events 为POLLIN |POLLOUT。
　　　　在poll返回时，咱们能够检查revents中的标志，对应于文件描述符请求的events结构体。
　　　　若是POLLIN事件被设置，则文件描述符能够被读取而不阻塞。
　　　　若是POLLOUT被设置，则文件描述符能够写入而不致使阻塞。
　　　　这些标志并非互斥的：它们可能被同时设置，表示这个文件描述符的读取和写入操做都会正常返回而不阻塞。 
　　
（5）nfds参数是数组fds元素的个数。
（6）timeout参数指定等待的毫秒数，不管I/O是否准备好，poll都会返回。
　　　　timeout指定为负数值表示无限超时，使poll()一直挂起直到一个指定事件发生；
　　　　timeout为0指示poll调用当即返回并列出准备好I/O的文件描述符，但并不等待其它的事件。
　
(7)返回值和错误代码 　　
　　成功时，poll()返回结构体中revents域不为0的文件描述符个数；
　　若是在超时前没有任何事件发生，poll()返回0；
　　失败时，poll()返回-1，
　　　　并设置errno为下列值之一： 　　
　　　　EBADF　　 一个或多个结构体中指定的文件描述符无效。 　　
　　　　EFAULTfds　　 指针指向的地址超出进程的地址空间。 　　
　　　　EINTR　　　　 请求的事件以前产生一个信号，调用能够从新发起。 　　
　　　　EINVALnfds　　参数超出PLIMIT_NOFILE值。 　　
　　　　ENOMEM　　 可用内存不足，没法完成请求。 

3.4 poll优势

　　1. 没有最大链接数的限制。（基于链表来存储的）

3.5 poll缺点

　　1. 时间复杂度： 对socket进行扫描时是线性扫描，即采用轮询的方法，效率较低，时间复杂度O(n)。

　　它将用户传入的数组拷贝到内核空间，而后查询每一个fd对应的设备状态，若是设备就绪则在设备等待队列中加入一项并继续遍历，若是遍历完全部fd后没有发现就绪设备，则挂起当前进程，直到设备就绪或者主动超时，被唤醒后它又要再次遍历fd。这个过程经历了屡次无谓的遍历。

　　

　　2.  内存拷贝：大量的fd数组被总体复制于用户态和内核地址空间之间，而无论这样的复制是否是有意义。

　　　　大量的fd数组被总体复制于用户态和内核地址空间之间，而无论这样的复制是否是有意义。

　　

　　3.  水平触发：若是报告了fd后，没有被处理，那么下次poll时会再次报告该fd。

 

注意：select和poll都须要在返回后，经过遍历文件描述符来获取已经就绪的socket。

　　    事实上，同时链接的大量客户端在一时刻可能只有不多的处于就绪状态，所以随着监视的描述符数量的增加，其效率也会线性降低。

4、epoll

　　epoll是在2.6内核中提出的，是以前的select和poll的加强版本。是为处理大批量句柄而做了改进的poll。

　　epoll使用一个文件描述符管理多个描述符，将用户关系的文件描述符的事件存放到内核的一个事件表中，这样在用户空间和内核空间的拷贝只须要一次。


4.1 epoll基本原理

　　epoll有两大特色：

　　　　1. 边缘触发，它只告诉进程哪些fd刚刚变为就绪态，而且只会通知一次。

　　　　2. 事件驱动，每一个事件关联上fd，使用事件就绪通知方式，经过 epoll_ctl 注册 fd，一旦该fd就绪，内核就会采用 callback 的回调机制来激活该fd，epoll_wait 即可以收到通知。

4.2 epoll基本流程

　一棵红黑树，一张准备就绪句柄链表，少许的内核cache，就帮咱们解决了大并发下的socket处理问题。

　1. 执行 epoll_create
　　 　　内核在epoll文件系统中建了个file结点，（使用完，必须调用close()关闭，不然致使fd被耗尽）
　　　　 　　在内核cache里建了红黑树存储epoll_ctl传来的socket，
　　　　 　　在内核cache里建了rdllist双向链表存储准备就绪的事件。
　2. 执行 epoll_ctl
　　　　若是增长socket句柄，检查红黑树中是否存在，存在当即返回，不存在则添加到树干上，而后向内核注册回调函数，告诉内核若是这个句柄的中断到了，就把它放到准备就绪list链表里。

　　　　ps：全部添加到epoll中的事件都会与设备（如网卡）驱动程序简历回调关系，相应的事件发生时，会调用回调方法。

　3. 执行 epoll_wait

　　　　马上返回准备就绪表里的数据便可（将内核cache里双向列表中存储的准备就绪的事件  复制到用户态内存）

　　　　当调用epoll_wait检查是否有事件发生时，只须要检查eventpoll对象中的rdlist双链表中是否有epitem元素便可。

　　　　若是rdlist不为空，则把发生的事件复制到用户态，同时将事件数量返回给用户。　　　　

　　

　　

　　

　　

4.3 epoll函数原型

　　epoll操做过程须要三个接口，分别以下：

#include <sys/epoll.h>
int epoll_create(int size);
int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);
int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout);

（1） int epoll_create(int size); 
　　/*建立一个epoll的句柄，size用来告诉内核这个监听的数目一共有多大。*/
　　这个参数不一样于select()中的第一个参数，给出最大监听的fd+1的值。
   须要注意的是:
　　　　当建立好epoll句柄后，它就是会占用一个fd值，在linux下若是查看/proc/进程id/fd/，是可以看到这个fd的，
　　　　因此在使用完epoll后，必须调用close()关闭，不然可能致使fd被耗尽。

（2）int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);
　　epoll的事件注册函数.
　　它不一样与select()是在监听事件时告诉内核要监听什么类型的事件epoll的事件注册函数，而是在这里先注册要监听的事件类型。
　　第一个参数 epfd 是epoll_create()的返回值，
　　第二个参数 op 表示动做，用三个宏来表示： 
　　　　EPOLL_CTL_ADD：注册新的fd到epfd中； 
　　　　EPOLL_CTL_MOD：修改已经注册的fd的监听事件； 
　　　　EPOLL_CTL_DEL：从epfd中删除一个fd； 
　　第三个参数是须要监听的fd，
　　第四个参数是告诉内核须要监听什么事，　　
　　　　struct epoll_event结构以下： 
　　　　struct epoll_event { 
　　　　　　__uint32_t events; /* Epoll events */ 
　　　　　　epoll_data_t data; /* User data variable */ 
　　　　}; 
　　　　events能够是如下几个宏的集合： 
　　　　　　EPOLLIN ：表示对应的文件描述符能够读（包括对端SOCKET正常关闭）；
　　　　　　EPOLLOUT：表示对应的文件描述符能够写； 
　　　　　　EPOLLPRI：表示对应的文件描述符有紧急的数据可读（这里应该表示有带外数据到来）； 
　　　　　　EPOLLERR：表示对应的文件描述符发生错误； 
　　　　　　EPOLLHUP：表示对应的文件描述符被挂断； 
　　　　　　EPOLLET： 将EPOLL设为边缘触发(Edge Triggered)模式，这是相对于水平触发(Level Triggered)来讲的。 
　　　　　　EPOLLONESHOT：只监听一次事件，当监听完此次事件以后，若是还须要继续监听这个socket的话，须要再次把这个socket加入到EPOLL队列里 
　（3） int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout); 　　
　　　　等待事件的产生
　　　　相似于select()调用。
　　　　参数 events用来从内核获得事件的集合，
　　　　参数 maxevents告以内核这个events有多大，这个maxevents的值不能大于建立epoll_create()时的size，
　　　　参数 timeout是超时时间（毫秒，0会当即返回，-1将不肯定，也有说法说是永久阻塞）。
　　　　该函数返回须要处理的事件数目，如返回0表示已超时。

4.4 epoll优势

　　1. 没有最大链接数的限制。（基于 红黑树+双链表 来存储的:1G的内存上能监听约10万个端口）

　　2. 时间复杂度低： 边缘触发和事件驱动，监听回调，时间复杂度O(1)。

　　　　只有活跃可用的fd才会调用callback函数；即epoll最大的优势就在于它只管“活跃”的链接，而跟链接总数无关，所以实际网络环境中，Epoll的效率就会远远高于select和poll。

　　3. 内存拷贝：利用mmap()文件映射内存加速与内核空间的消息传递，减小拷贝开销。

4.5 epoll缺点

　　1. 依赖于操做系统：Lunix

4.6 epoll应用场景

适合用epoll的应用场景：

　　对于链接特别多，活跃的链接特别少

　　典型的应用场景为一个须要处理上万的链接服务器，例如各类app的入口服务器，例如qq

不适合epoll的场景：

　　链接比较少，数据量比较大，例如ssh

epoll 的惊群问题：

　　由于epoll 多用于多个链接，只有少数活跃的场景，可是万一某一时刻，epoll 等的上千个文件描述符都就绪了，这时候epoll 要进行大量的I/O，此时压力太大。

4.7 epoll两种模式

epoll对文件描述符的操做有两种模式：LT(level trigger) 和 ET(edge trigger)。LT是默认的模式，ET是“高速”模式。

　　LT（水平触发）模式下，只要有数据就触发，缓冲区剩余未读尽的数据会致使 epoll_wait都会返回它的事件；

　　ET（边缘触发）模式下，只有新数据到来才触发，无论缓存区中是否还有数据，缓冲区剩余未读尽的数据不会致使epoll_wait返回。

一、LT模式

　　LT(level triggered)是缺省的工做方式，而且同时支持block和no-block socket。在这种作法中，内核告诉你一个文件描述符是否就绪了，而后你能够对这个就绪的fd进行IO操做。 若是你不做任何操做，内核仍是会继续通知你的,只要这个文件描述符还有数据可读，每次 epoll_wait都会返回它的事件，提醒用户程序去操做。

 

 

二、ET模式

　　ET(edge-triggered)是高速工做方式，只支持no-block socket。在这种模式下，当描述符从未就绪变为就绪时，内核经过epoll告诉你。而后它会假设你知道文件描述符已经就绪，而且不会再为那个文件描述符发送更多的就绪通知，直到你作了某些操做致使那个文件描述符再也不为就绪状态了(好比，你在发送，接收或者接收请求，或者发送接收的数据少于必定量时致使了一个EWOULDBLOCK 错误）。 可是请注意，若是一直不对这个fd做IO操做(从而致使它再次变成未就绪)，内核不会发送更多的通知(only once)。

　　在它检测到有 I/O 事件时，经过 epoll_wait 调用会获得有事件通知的文件描述符，对于每个被通知的文件描述符，如可读，则必须将该文件描述符一直读到空，让 errno 返回 EAGAIN （提示你的应用程序如今没有数据可读请稍后再试）为止，不然下次的 epoll_wait 不会返回余下的数据，会丢掉事件。

　　ET模式在很大程度上减小了epoll事件被重复触发的次数，所以效率要比LT模式高。epoll工做在ET模式的时候， 必须使用非阻塞套接口，以免因为一个文件句柄的阻塞读/阻塞写操做把处理多个文件描述符的任务饿死。

 

注意：1.  在select/poll中， 进程只有在调用必定的方法后，内核才对全部监视的文件描述符进行扫描，而epoll事先经过epoll_ctl()来注册一个文件描述符， 一旦基于某个文件描述符就绪时，内核会采用相似callback的回调机制，迅速激活这个文件描述符，当进程调用epoll_wait()时便获得通知。 此处去掉了遍历文件描述符，而是经过监听回调的的机制。这正是epoll的魅力所在。

　　　2. 若是没有大量的idle-connection或者dead-connection，epoll的效率并不会比select/poll高不少，可是当遇到大量的idle-connection，就会发现epoll的效率大大高于select/poll。

5、select、poll、epoll区别

它们三个都是  就绪设备 通知 。

一、支持一个进程所能打开的最大链接数

select	单个进程所能打开的最大链接数有FD_SETSIZE宏定义，其大小是32个整数的大小（在32位的机器上，大小就是32*32，同理64位机器上FD_SETSIZE为32*64），固然咱们能够对进行修改，而后从新编译内核，可是性能可能会受到影响，这须要进一步的测试。
poll	poll本质上和select没有区别，可是它没有最大链接数的限制，缘由是它是基于链表来存储的
epoll	虽然链接数有上限，可是很大，1G内存的机器上能够打开10万左右的链接，2G内存的机器能够打开20万左右的链接

二、FD剧增后带来的IO效率问题

select	由于每次调用时都会对链接进行线性遍历，因此随着FD的增长会形成遍历速度慢的“线性降低性能问题”。
poll	同上
epoll	由于epoll内核中实现是根据每一个fd上的callback函数来实现的，只有活跃的socket才会主动调用callback，因此在活跃socket较少的状况下，使用epoll没有前面二者的线性降低的性能问题，可是全部socket都很活跃的状况下，可能会有性能问题。

三、 消息传递方式

select	内核须要将消息传递到用户空间，都须要内核拷贝动做
poll	同上
epoll	epoll经过mmap把对应设备文件片段映射到用户空间上, 消息传递不经过内核, 内存与设备文件同步数据.

总结：

综上，在选择select，poll，epoll时要根据具体的使用场合以及这三种方式的自身特色。

一、表面上看epoll的性能最好，可是在链接数少而且链接都十分活跃的状况下，select和poll的性能可能比epoll好，毕竟epoll的通知机制须要不少函数回调。

二、select低效是由于每次它都须要轮询。但低效也是相对的，视状况而定，也可经过良好的设计改善

 

6、摘录地址

摘录自：

聊聊IO多路复用之select、poll、epoll详解

IO多路复用之select总结

IO多路复用之poll总结

IO多路复用之epoll总结

高并发网络编程之epoll详解

epoll原理详解及epoll反应堆模型

Linux五种IO模型性能分析

LT(水平触发)和ET(边缘触发)

  java BIO/NIO/AIO 学习