从根上理解高性能、高并发 (三)：深入操作系统，彻底理解 I/O 多路复用
1、系列文章引言
1.1 文章目的
作为即时通讯技术的开发者来说，高性能、高并发相关的技术概念早就了然与胸，什么线程池、零拷贝、多路复用、事件驱动、epoll 等等名词信手拈来，又或许你对具有这些技术特征的技术框架比如：Java 的Netty、Php 的workman、Go 的nget等熟练掌握。但真正到了面视或者技术实践过程中遇到无法释怀的疑惑时，方知自已所掌握的不过是皮毛。
返璞归真、回归本质，这些技术特征背后的底层原理到底是什么？如何能通俗易懂、毫不费力真正透彻理解这些技术背后的原理，正是《从根上理解高性能、高并发》系列文章所要分享的。
1.2 文章源起
我整理了相当多有关 IM、消息推送等即时通讯技术相关的资源和文章，从最开始的开源 IM 框架MobileIMSDK，到网络编程经典巨著《TCP/IP详解》的在线版本，再到 IM 开发纲领性文章《新手入门一篇就够：从零开发移动端IM》，以及网络编程由浅到深的《网络编程懒人入门》、《脑残式网络编程入门》、《高性能网络编程》、《不为人知的网络编程》系列文章。
越往知识的深处走，越觉得对即时通讯技术了解的太少。于是后来，为了让开发者门更好地从基础电信技术的角度理解网络（尤其移动网络）特性，我跨专业收集整理了《IM开发者的零基础通信技术入门》系列高阶文章。这系列文章已然是普通即时通讯开发者的网络通信技术知识边界，加上之前这些网络编程资料，解决网络通信方面的知识盲点基本够用了。
对于即时通讯 IM 这种系统的开发来说，网络通信知识确实非常重要，但回归到技术本质，实现网络通信本身的这些技术特征：包括上面提到的线程池、零拷贝、多路复用、事件驱动等等，它们的本质是什么？底层原理又是怎样？这就是整理本系列文章的目的，希望对你有用。
1.3 文章目录
《从根上理解高性能、高并发(一)：深入计算机底层，理解线程与线程池》
《从根上理解高性能、高并发(二)：深入操作系统，理解I/O与零拷贝技术》
《从根上理解高性能、高并发(三)：深入操作系统，彻底理解I/O多路复用》（* 本文）
《从根上理解高性能、高并发(四)：深入操作系统，彻底理解同步与异步 （稍后发布..）》
《从根上理解高性能、高并发(五)：高并发高性能服务器到底是如何实现的 （稍后发布..）》
1.4 本篇概述
接上篇《深入操作系统，理解I/O与零拷贝技术》，本篇是高性能、高并发系列的第 3 篇文章，上篇里我们讲到了 I/O 技术，本篇将以更具象的文件这个话题入手，带你一步步理解高性能、高并发服务端编程时无法回避的 I/O 多路复用及相关技术。
本文已同步发布于“即时通讯技术圈”公众号，欢迎关注。公众号上的链接是：点此进入
2、本文作者
应作者要求，不提供真名，也不提供个人照片。
本文作者主要技术方向为互联网后端、高并发高性能服务器、检索引擎技术，网名是“码农的荒岛求生”，公众号“码农的荒岛求生”。感谢作者的无私分享。
3、什么是文件？
在正式展开本文的内容之前，我们需要先预习一下文件以及文件描述符的概念。
程序员使用 I/O 最终都逃不过文件这个概念。
在 Linux 世界中文件是一个很简单的概念，作为程序员我们只需要将其理解为一个 N byte 的序列就可以了：
b1, b2, b3, b4, ....... bN
实际上所有的 I/O 设备都被抽象为了文件这个概念，一切皆文件（Everything is File），磁盘、网络数据、终端，甚至进程间通信工具管道 pipe 等都被当做文件对待。
所有的 I/O 操作也都可以通过文件读写来实现，这一非常优雅的抽象可以让程序员使用一套接口就能对所有外设 I/O 操作。
常用的 I/O 操作接口一般有以下几类：
1）打开文件，open；
2）改变读写位置，seek；
3）文件读写，read、write；
4）关闭文件，close。
程序员通过这几个接口几乎可以实现所有 I/O 操作，这就是文件这个概念的强大之处。
4、什么是文件描述符？
在上一篇《深入操作系统，理解I/O与零拷贝技术》中我们讲到：要想进行 I/O 读操作，像磁盘数据，我们需要指定一个 buff 用来装入数据。
一般都是这样写的：
read(buff);
但是这里我们忽略了一个关键问题：那就是，虽然我们指定了往哪里写数据，但是我们该从哪里读数据呢？
从上一节中我们知道，通过文件这个概念我们能实现几乎所有 I/O 操作，因此这里少的一个主角就是文件。
那么我们一般都怎样使用文件呢？
举个例子：如果周末你去比较火的餐厅吃饭应该会有体会，一般周末人气高的餐厅都会排队，然后服务员会给你一个排队序号，通过这个序号服务员就能找到你，这里的好处就是服务员无需记住你是谁、你的名字是什么、来自哪里、喜好是什么、是不是保护环境爱护小动物等等，这里的关键点就是：服务员对你一无所知，但依然可以通过一个号码就能找到你。
同样的：在 Linux 世界要想使用文件，我们也需要借助一个号码，根据“弄不懂原则”，这个号码就被称为了文件描述符（file descriptors），在 Linux 世界中鼎鼎大名，其道理和上面那个排队号码一样。
因此：文件描述仅仅就是一个数字而已，但是通过这个数字我们可以操作一个打开的文件，这一点要记住。
有了文件描述符，进程可以对文件一无所知，比如文件在磁盘的什么位置、加载到内存中又是怎样管理的等等，这些信息统统交由操作系统打理，进程无需关心，操作系统只需要给进程一个文件描述符就足够了。
因此我们来完善上述程序：
int fd = open(file_name); // 获取文件描述符
read(fd, buff);
怎么样，是不是非常简单。
5、文件描述符太多了怎么办？
经过了这么多的铺垫，终于要到高性能、高并发这一主题了。
从前几节我们知道，所有 I/O 操作都可以通过文件样的概念来进行，这当然包括网络通信。
如果你有一个 IM 服务器，当三次握手建议长连接成功以后，我们会调用 accept 来获取一个链接，调用该函数我们同样会得到一个文件描述符，通过这个文件描述符就可以处理客户端发送的聊天消息并且把消息转发给接收者。
也就是说，通过这个描述符我们就可以和客户端进行通信了：
// 通过 accept 获取客户端的文件描述符
int conn_fd = accept(...);
Server 端的处理逻辑通常是接收客户端消息数据，然后执行转发（给接收者）逻辑：
if(read(conn_fd, msg_buff) > 0) {
do_transfer(msg_buff);
}
是不是非常简单，然而世界终归是复杂的，当然也不是这么简单的。
接下来就是比较复杂的了。
既然我们的主题是高并发，那么 Server 端就不可能只和一个客户端通信，而是可能会同时和成千上万个客户端进行通信。这时你需要处理不再是一个描述符这么简单，而是有可能要处理成千上万个描述符。
为了不让问题一上来就过于复杂，我们先简单化，假设只同时处理两个客户端的请求。
有的同学可能会说，这还不简单，这样写不就行了：
if(read(socket_fd1, buff) > 0) { // 处理第一个
do_transfer();
}
if(read(socket_fd2, buff) > 0) { // 处理第二个
do_transfer();
在上一篇《深入操作系统，理解I/O与零拷贝技术》中我们讨论过，这是非常典型的阻塞式 I/O，如果此时没有数据可读那么进程会被阻塞而暂停运行。这时我们就无法处理第二个请求了，即使第二个请求的数据已经就位，这也就意味着处理某一个客户端时由于进程被阻塞导致剩下的所有其它客户端必须等待，在同时处理几万客户端的 server 上。这显然是不能容忍的。
聪明的你一定会想到使用多线程：为每个客户端请求开启一个线程，这样一个客户端被阻塞就不会影响到处理其它客户端的线程了。注意：既然是高并发，那么我们要为成千上万个请求开启成千上万个线程吗，大量创建销毁线程会严重影响系统性能。
那么这个问题该怎么解决呢？
这里的关键点在于：我们事先并不知道一个文件描述对应的 I/O 设备是否是可读的、是否是可写的，在外设的不可读或不可写的状态下进行 I/O 只会导致进程阻塞被暂停运行。
因此要优雅的解决这个问题，就要从其它角度来思考这个问题了。
6、“不要打电话给我，有需要我会打给你”
大家生活中肯定会接到过推销电话，而且不止一个，一天下来接上十个八个推销电话你的身体会被掏空的。
这个场景的关键点在于：打电话的人并不知道你是不是要买东西，只能来一遍遍问你。因此一种更好的策略是不要让他们打电话给你，记下他们的电话，有需要的话打给他们，这样推销员就不会一遍一遍的来烦你了（虽然现实生活中这并不可能）。
在这个例子中：你，就好比内核，推销者就好比应用程序，电话号码就好比文件描述符，和你用电话沟通就好比 I/O。
现在你应该明白了吧，处理多个文件描述符的更好方法其实就存在于推销电话中。
因此相比上一节中：我们通过 I/O 接口主动问内核这些文件描述符对应的外设是不是已经就绪了，一种更好的方法是，我们把这些感兴趣的文件描述符一股脑扔给内核，并霸气的告诉内核：“我这里有 1 万个文件描述符，你替我监视着它们，有可以读写的文件描述符时你就告诉我，我好处理”。而不是弱弱的问内核：“第一个文件描述可以读写了吗？第二个文件描述符可以读写吗？第三个文件描述符可以读写了吗？。。。”
这样：应用程序就从“繁忙”的主动变为了清闲的被动，反正文件描述可读可写了内核会通知我，能偷懒我才不要那么勤奋。
这是一种更加高效的 I/O 处理机制，现在我们可以一次处理多路 I/O 了，为这种机制起一个名字吧，就叫 I/O 多路复用吧，这就是 I/O multiplexing。
7、I/O 多路复用（I/O multiplexing）
multiplexing 一词其实多用于通信领域，为了充分利用通信线路，希望在一个信道中传输多路信号，要想在一个信道中传输多路信号就需要把这多路信号结合为一路，将多路信号组合成一个信号的设备被称为 Multiplexer（多路复用器），显然接收方接收到这一路组合后的信号后要恢复原先的多路信号，这个设备被称为 Demultiplexer（多路分用器）。
如下图所示：
回到我们的主题。
所谓 I/O 多路复用指的是这样一个过程：
1）我们拿到了一堆文件描述符（不管是网络相关的、还是磁盘文件相关等等，任何文件描述符都可以）；
2）通过调用某个函数告诉内核：“这个函数你先不要返回，你替我监视着这些描述符，当这堆文件描述符中有可以进行 I/O 读写操作的时候你再返回”；
3）当调用的这个函数返回后我们就能知道哪些文件描述符可以进行 I/O 操作了。
也就是说通过 I/O 多路复用我们可以同时处理多路 I/O。那么有哪些函数可以用来进行 I/O 多路复用呢？
以 Linux 为例，有这样三种机制可以用来进行 I/O 多路复用：
1）select；
2）poll；
3）epoll。
接下来我们就来介绍一下牛掰的 I/O 多路复用三剑客。
8、I/O 多路复用三剑客
本质上：Linux 上的 select、poll、epoll 都是阻塞式 I/O，也就是我们常说的同步 I/O。
原因在于：调用这些 I/O 多路复用函数时如果任何一个需要监视的文件描述符都不可读或者可写那么进程会被阻塞暂停执行，直到有文件描述符可读或者可写才继续运行。
8.1 select：初出茅庐
在 select 这种 I/O 多路复用机制下，我们需要把想监控的文件描述集合通过函数参数的形式告诉 select，然后 select 会将这些文件描述符集合拷贝到内核中。
我们知道数据拷贝是有性能损耗的，因此为了减少这种数据拷贝带来的性能损耗，Linux 内核对集合的大小做了限制，并规定用户监控的文件描述集合不能超过 1024 个，同时当 select 返回后我们仅仅能知道有些文件描述符可以读写了，但是我们不知道是哪一个。因此程序员必须再遍历一边找到具体是哪个文件描述符可以读写了。
因此，总结下来 select 有这样几个特点：
1）我能照看的文件描述符数量有限，不能超过 1024 个；
2）用户给我的文件描述符需要拷贝的内核中；
3）我只能告诉你有文件描述符满足要求了，但是我不知道是哪个，你自己一个一个去找吧（遍历）。
因此我们可以看到，select 机制的这些特性在高并发网络服务器动辄几万几十万并发链接的场景下无疑是低效的。
8.2 poll：小有所成
poll 和 select 是非常相似的。
poll 相对于 select 的优化仅仅在于解决了文件描述符不能超过 1024 个的限制，select 和 poll 都会随着监控的文件描述数量增加而性能下降，因此不适合高并发场景。
8.3 epoll：独步天下
在 select 面临的三个问题中，文件描述数量限制已经在 poll 中解决了，剩下的两个问题呢？
针对拷贝问题：epoll 使用的策略是各个击破与共享内存。
实际上：文件描述符集合的变化频率比较低，select 和 poll 频繁的拷贝整个集合，内核都快被烦死了，epoll 通过引入 epoll_ctl 很体贴的做到了只操作那些有变化的文件描述符。同时 epoll 和内核还成为了好朋友，共享了同一块内存，这块内存中保存的就是那些已经可读或者可写的的文件描述符集合，这样就减少了内核和程序的拷贝开销。
针对需要遍历文件描述符才能知道哪个可读可写这一问题，epoll 使用的策略是“当小弟”。
在 select 和 poll 机制下：进程要亲自下场去各个文件描述符上等待，任何一个文件描述可读或者可写就唤醒进程，但是进程被唤醒后也是一脸懵逼并不知道到底是哪个文件描述符可读或可写，还要再从头到尾检查一遍。
但 epoll 就懂事多了，主动找到进程要当小弟替大哥出头。
在这种机制下：进程不需要亲自下场了，进程只要等待在 epoll 上，epoll 代替进程去各个文件描述符上等待，当哪个文件描述符可读或者可写的时候就告诉 epoll，epoll 用小本本认真记录下来然后唤醒大哥：“进程大哥，快醒醒，你要处理的文件描述符我都记下来了”，这样进程被唤醒后就无需自己从头到尾检查一遍，因为 epoll 小弟都已经记下来了。
因此我们可以看到：在 epoll 这种机制下，实际上利用的就是“不要打电话给我，有需要我会打给你”这种策略，进程不需要一遍一遍麻烦的问各个文件描述符，而是翻身做主人了——“你们这些文件描述符有哪个可读或者可写了主动报上来”。
这种机制实际上就是大名鼎鼎的事件驱动——Event-driven，这也是我们下一篇的主题。
实际上：在 Linux 平台，epoll 基本上就是高并发的代名词。
9、本文小结
基于一切皆文件的设计哲学，I/O 也可以通过文件的形式实现，高并发场景下要与多个文件交互，这就离不开高效的 I/O 多路复用技术。
本文我们详细讲解了什么是 I/O 多路复用以及使用方法，这其中以 epoll 为代表的 I/O 多路复用（基于事件驱动）技术使用非常广泛，实际上你会发现但凡涉及到高并发、高性能的场景基本上都能见到事件驱动的编程方法，当然这也是下一篇我们要重点讲解的主题《从根上理解高性能、高并发(四)：深入操作系统，彻底理解同步与异步》，敬请期待！
附录：更多高性能、高并发文章精选
《高性能网络编程(一)：单台服务器并发TCP连接数到底可以有多少》
《高性能网络编程(二)：上一个10年，著名的C10K并发连接问题》
《高性能网络编程(三)：下一个10年，是时候考虑C10M并发问题了》
《高性能网络编程(四)：从C10K到C10M高性能网络应用的理论探索》
《高性能网络编程(五)：一文读懂高性能网络编程中的I/O模型》
《高性能网络编程(六)：一文读懂高性能网络编程中的线程模型》
《以网游服务端的网络接入层设计为例，理解实时通信的技术挑战》
《一套海量在线用户的移动端IM架构设计实践分享(含详细图文)》
《腾讯资深架构师干货总结：一文读懂大型分布式系统设计的方方面面》
本文已同步发布于“即时通讯技术圈”公众号。本文在公众号上的链接是：点此进入。同步发布链接是：http://www.52im.net/thread-3287-1-1.html
还未添加个人签名 2019.08.26 加入
开源IM框架MobileIMSDK、BeautyEye的作者。
评论