epoll与select

长平狐 发布于 2012/09/03 12:55
阅读 126
收藏 0

  • 支持一个进程打开大数目的socket描述符(FD)

select 最不能忍受的是一个进程所打开的FD是有一定限制的,由FD_SETSIZE设置,默认值是2048。对于那些需要支持的上万连接数目的IM服务器来说显然太少了。这时候你一是可以选择修改这个宏然后重新编译内核,不过资料也同时指出这样会带来网络效率的下降,二是可以选择多进程的解决方案(传统的Apache方案),不过虽然linux上面创建进程的代价比较小,但仍旧是不可忽视的,加上进程间数据同步远比不上线程间同步的高效,所以也不是一种完美的方案。不过 epoll则没有这个限制,它所支持的FD上限是最大可以打开文件的数目,这个数字一般远大于2048,举个例子,在1GB内存的机器上大约是10万左右,具体数目可以cat /proc/sys/fs/file-max察看,一般来说这个数目和系统内存关系很大。

  • IO效率不随FD数目增加而线性下降

传统的select/poll另一个致命弱点就是当你拥有一个很大的socket集合,不过由于网络延时,任一时间只有部分的socket是"活跃"的,但是select/poll每次调用都会线性扫描全部的集合,导致效率呈现线性下降。但是epoll不存在这个问题,它只会对"活跃"的socket进行操作---这是因为在内核实现中epoll是根据每个fd上面的callback函数实现的。那么,只有"活跃"的socket才会主动的去调用 callback函数,其他idle状态socket则不会,在这点上,epoll实现了一个"伪"AIO,因为这时候推动力在os内核。在一些 benchmark中,如果所有的socket基本上都是活跃的---比如一个高速LAN环境,epoll并不比select/poll有什么效率,相反,如果过多使用epoll_ctl,效率相比还有稍微的下降。但是一旦使用idle connections模拟WAN环境,epoll的效率就远在select/poll之上了。

  • 使用mmap加速内核与用户空间的消息传递。

这点实际上涉及到epoll的具体实现了。无论是select,poll还是epoll都需要内核把FD消息通知给用户空间,如何避免不必要的内存拷贝就很重要,在这点上,epoll是通过内核于用户空间mmap同一块内存实现的。而如果你想我一样从2.5内核就关注epoll的话,一定不会忘记手工 mmap这一步的。

  • 内核微调

这一点其实不算epoll的优点了,而是整个linux平台的优点。也许你可以怀疑linux平台,但是你无法回避linux平台赋予你微调内核的能力。比如,内核TCP/IP协议栈使用内存池管理sk_buff结构,那么可以在运行时期动态调整这个内存pool(skb_head_pool)的大小--- 通过echo XXXX>/proc/sys/net/core/hot_list_length完成。再比如listen函数的第2个参数(TCP完成3次握手的数据包队列长度),也可以根据你平台内存大小动态调整。更甚至在一个数据包面数目巨大但同时每个数据包本身大小却很小的特殊系统上尝试最新的NAPI网卡驱动架构。

 

epoll有两种模式,Edge Triggered(简称ET) 和 Level Triggered(简称LT).在采用这两种模式时要注意的是,如果采用ET模式,那么仅当状态发生变化时才会通知,而采用LT模式类似于原来的select/poll操作,只要还有没有处理的事件就会一直通知.

以代码来说明问题:
首先给出server的代码,需要说明的是每次accept的连接,加入可读集的时候采用的都是ET模式,而且接收缓冲区是5字节的,也就是每次只接收5字节的数据:

#include  < iostream >
#include 
< sys / socket.h >
#include 
< sys / epoll.h >
#include 
< netinet / in.h >
#include 
< arpa / inet.h >
#include 
< fcntl.h >
#include 
< unistd.h >
#include 
< stdio.h >
#include 
< errno.h >

using namespace std;

#define MAXLINE 
5
#define OPEN_MAX 
100
#define LISTENQ 
20
#define SERV_PORT 
5000
#define INFTIM 
1000

void setnonblocking(
int  sock)
{
    
int  opts;
    opts
= fcntl(sock,F_GETFL);
    
if (opts < 0 )
    {
        perror(
" fcntl(sock,GETFL) " );
        
exit ( 1 );
    }
    opts 
=  opts|O_NONBLOCK;
    
if (fcntl(sock,F_SETFL,opts) < 0 )
    {
        perror(
" fcntl(sock,SETFL,opts) " );
        
exit ( 1 );
    }   
}

int  main()
{
    
int  i, maxi, listenfd, connfd, sockfd,epfd,nfds;
    ssize_t n;
    char line[MAXLINE];
    socklen_t clilen;
    
// 声明epoll_event结构体的变量,ev用于注册事件,数组用于回传要处理的事件
    struct epoll_event ev,events[
20 ];
    
// 生成用于处理accept的epoll专用的文件描述符
    epfd
= epoll_create( 256 );
    struct sockaddr_in clientaddr;
    struct sockaddr_in serveraddr;
    listenfd 
=  socket(AF_INET, SOCK_STREAM,  0 );
    
// 把socket设置为非阻塞方式
    
// setnonblocking(listenfd);
    
// 设置与要处理的事件相关的文件描述符
    ev.data.fd
= listenfd;
    
// 设置要处理的事件类型
    ev.events
= EPOLLIN|EPOLLET;
    
// ev.events = EPOLLIN;
    
// 注册epoll事件
    epoll_ctl(epfd,EPOLL_CTL_ADD,listenfd,
& ev);
    bzero(
& serveraddr, sizeof(serveraddr));
    serveraddr.sin_family 
=  AF_INET;
    char 
* local_addr = " 127.0.0.1 " ;
    inet_aton(local_addr,
& (serveraddr.sin_addr)); // htons(SERV_PORT);
    serveraddr.sin_port
= htons(SERV_PORT);
    bind(listenfd,(sockaddr 
* ) & serveraddr, sizeof(serveraddr));
    listen(listenfd, LISTENQ);
    maxi 
=   0 ;
    
for  ( ; ; ) {
        
// 等待epoll事件的发生
        nfds
= epoll_wait(epfd,events, 20 , 500 );
        
// 处理所发生的所有事件     
        
for (i = 0 ;i < nfds; ++ i)
        {
            
if (events[i].data.fd == listenfd)
            {
                connfd 
=  accept(listenfd,(sockaddr  * ) & clientaddr,  & clilen);
                
if (connfd < 0 ){
                    perror(
" connfd<0 " );
                    
exit ( 1 );
                }
                
// setnonblocking(connfd);
                char 
* str  =  inet_ntoa(clientaddr.sin_addr);
                cout 
<<   " accapt a connection from  "   <<  str  <<  endl;
                
// 设置用于读操作的文件描述符
                ev.data.fd
= connfd;
                
// 设置用于注测的读操作事件
                ev.events
= EPOLLIN|EPOLLET;
                
// ev.events = EPOLLIN;
                
// 注册ev
                epoll_ctl(epfd,EPOLL_CTL_ADD,connfd,
& ev);
            }
            
else   if (events[i].events & EPOLLIN)
            {
                cout 
<<   " EPOLLIN "   <<  endl;
                
if  ( (sockfd  =  events[i].data.fd)  <   0
                    continue;
                
if  ( (n  =  read(sockfd, line, MAXLINE))  <   0 ) {
                    
if  (errno  ==  ECONNRESET) {
                        close(sockfd);
                        events[i].data.fd 
=   - 1 ;
                    } 
else
                        std::cout
<< " readline error " << std::endl;
                } 
else   if  (n  ==   0 ) {
                    close(sockfd);
                    events[i].data.fd 
=   - 1 ;
                }
                line[n] 
=   ' /0';
                cout  <<   " read  "   <<  line  <<  endl;
                
// 设置用于写操作的文件描述符
                ev.data.fd
= sockfd;
                
// 设置用于注测的写操作事件
                ev.events
= EPOLLOUT|EPOLLET;
                
// 修改sockfd上要处理的事件为EPOLLOUT
                
// epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd, & ev);
            }
            
else   if (events[i].events & EPOLLOUT)
            {   
                sockfd 
=  events[i].data.fd;
                write(sockfd, line, n);
                
// 设置用于读操作的文件描述符
                ev.data.fd
= sockfd;
                
// 设置用于注测的读操作事件
                ev.events
= EPOLLIN|EPOLLET;
                
// 修改sockfd上要处理的事件为EPOLIN
                epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,
& ev);
            }
        }
    }
    return 
0 ;
}


下面给出测试所用的Perl写的client端,在client中发送10字节的数据,同时让client在发送完数据之后进入死循环, 也就是在发送完之后连接的状态不发生改变--既不再发送数据, 也不关闭连接,这样才能观察出server的状态:
#! / usr / bin / perl

use IO::Socket;

my $host 
=   " 127.0.0.1 " ;
my $port 
=   5000 ;

my $socket 
=  IO::Socket::INET -> new ( " $host:$port " or  die  " create socket error $@ " ;
my $msg_out 
=   " 1234567890 " ;
print $socket $msg_out;
print 
" now send over, go to sleep/n " ;

while  ( 1 )
{
    sleep(
1 );
}
运行server和client发现,server仅仅读取了5字节的数据,而client其实发送了10字节的数据,也就是说,server仅当第一次监听到了EPOLLIN事件,由于没有读取完数据,而且采用的是ET模式,状态在此之后不发生变化,因此server再也接收不到EPOLLIN事件了.
(友情提示:上面的这个测试客户端,当你关闭它的时候会再次出发IO可读事件给server,此时server就会去读取剩下的5字节数据了,但是这一事件与前面描述的ET性质并不矛盾.)

如果我们把client改为这样:
#! / usr / bin / perl

use IO::Socket;

my $host 
=   " 127.0.0.1 " ;
my $port 
=   5000 ;

my $socket 
=  IO::Socket::INET -> new ( " $host:$port " or  die  " create socket error $@ " ;
my $msg_out 
=   " 1234567890 " ;
print $socket $msg_out;
print 
" now send over, go to sleep/n " ;
sleep(
5 );
print 
" 5 second gonesend another line/n " ;
print $socket $msg_out;

while  ( 1 )
{
    sleep(
1 );
}

可以发现,在server接收完5字节的数据之后一直监听不到client的事件,而当client休眠5秒之后重新发送数据,server再次监听到了变化,只不过因为只是读取了5个字节,仍然有10个字节的数据(client第二次发送的数据)没有接收完.

如果上面的实验中,对accept的socket都采用的是LT模式,那么只要还有数据留在buffer中,server就会继续得到通知,读者可以自行改动代码进行实验.

基于这两个实验,可以得出这样的结论:ET模式仅当状态发生变化的时候才获得通知,这里所谓的状态的变化并不包括缓冲区中还有未处理的数据,也就是说,如果要采用ET模式,需要一直read/write直到出错为止,很多人反映为什么采用ET模式只接收了一部分数据就再也得不到通知了,大多因为这样;而LT模式是只要有数据没有处理就会一直通知下去的.

补充说明一下这里一直强调的"状态变化"是什么:

1)对于监听可读事件时,如果是socket是监听socket,那么当有新的主动连接到来为状态发生变化;对一般的socket而言,协议栈中相应的缓 冲区有新的数据为状态发生变化.但是,如果在一个时间同时接收了N个连接(N>1),但是监听socket只accept了一个连接,那么其它未 accept的连接将不会在ET模式下给监听socket发出通知,此时状态不发生变化;对于一般的socket,就如例子中而言,如果对应的缓冲区本身 已经有了N字节的数据,而只取出了小于N字节的数据,那么残存的数据不会造成状态发生变化.

2)对于监听可写事件时,同理可推,不再详述.

而不论是监听可读还是可写,对方关闭socket连接都将造成状态发生变化,比如在例子中,如果强行中断client脚本,也就是主动中断了socket连接,那么都将造成server端发生状态的变化,从而server得到通知,将已经在本方缓冲区中的数据读出.

把前面的描述可以总结如下:仅当对方的动作(发出数据,关闭连接等)造成的事件才能导致状态发生变化,而本方协议栈中已经处理的事件(包括接收了对方的数 据,接收了对方的主动连接请求)并不是造成状态发生变化的必要条件,状态变化一定是对方造成的.所以在ET模式下的,必须一直处理到出错或者完全处理完 毕,才能进行下一个动作,否则可能会发生错误.

另外,从这个例子中,也可以阐述一些基本的网络编程概念.首先,连接的两端中,一端发送成功并不代表着对方上层应用程序接收成功, 就拿上面的client测试程序来说,10字节的数据已经发送成功,但是上层的server并没有调用read读取数据,因此发送成功仅仅说明了数据被对方的协议栈接收存放在了相应的buffer中,而上层的应用程序是否接收了这部分数据不得而知;同样的,读取数据时也只代表着本方协议栈的对应buffer中有数据可读,而此时时候在对端是否在发送数据也不得而知.


原文链接:http://blog.csdn.net/hanchaoman/article/details/6181351
加载中
返回顶部
顶部