IO 多路复用技术详解

1. 什么是 IO 多路复用？

IO 多路复用技术是一种允许单个线程管理多个网络连接的技术，它使得服务器能够高效地处理大量的并发连接而不需要为每个连接创建一个独立的线程或进程。想象一下，如果客户端有成千上万个，那么非 IO 多路复用就会有成千上万个线程，这会导致 IO 过度争抢和多线程切换的问题，因为 CPU 资源有限，而要执行的线程却有成千上万个。

2. IO 多路复用技术实现

2.1 select

特点：select 是最早出现的一种多路复用 I/O 模型，几乎在所有平台上都有支持。它通过一个调用来监视多个文件描述符，等待其中任何一个变为可读或可写状态。

局限性：

• 文件描述符数量受限：通常限制为 1024 个，可以通过修改系统参数来增加这个限制，但这样做会消耗更多的系统资源。
• 效率低下：每次调用 select 都需要将文件描述符列表复制到内核，检查完后又需要复制回用户空间，这对于大量文件描述符来说效率很低。
• 不支持边缘触发模式：只支持水平触发模式。

边缘触发模式 VS 水平触发模式

• 边缘触发模式：当一个文件描述符从不可读（或不可写）变为可读（或可写）时，内核仅通知应用程序一次。如果应用程序未能立即处理完所有可用的数据（例如，缓冲区中的数据未完全读取），那么即使文件描述符仍然是可读的，内核也不会再次通知应用程序，直到该文件描述符的状态再次发生变化（例如，从可读变为不可读，再变回可读）。
  • 优点：减少了系统调用次数，提高了效率，特别适合于大数据量传输的场景。
  • 缺点：要求应用程序必须在接收到事件后尽可能多地读取或写入数据，否则可能会错过后续的数据。因此，边缘触发模式对编程的要求较高，需要更加小心地处理。
• 水平触发模式：在水平触发模式下，只要文件描述符处于可读（或可写）状态，无论之前是否已经通知过，内核都会持续通知应用程序。这意味着，如果应用程序未能一次性处理完所有数据，只要文件描述符仍然处于可读或可写状态，内核就会继续发送通知。
  • 优点：编程较为简单，因为即使错过了某个事件的通知，只要文件描述符的状态没有改变，应用程序仍然有机会在下一次轮询时接收到同样的事件。
  • 缺点：可能造成更多的系统调用，因为即使数据已经被部分处理，内核仍然会不断地通知应用程序，这可能导致效率降低。

2.2 poll

特点：poll 在功能上与 select 非常相似，但没有文件描述符数量的限制。poll 使用一个 pollfd 结构体数组来表示要监听的文件描述符集合。

局限性：虽然解决了 select 的文件描述符数量限制问题，但在性能上仍然存在类似 select 的问题，即每次调用都需要复制文件描述符列表到内核，并且返回时也需要复制回用户空间。

2.3 epoll

特点：epoll 是 Linux 特有的高效 IO 多路复用技术，它克服了 select 和 poll 的所有缺点。epoll 使用三个系统调用来管理文件描述符：

• epoll_create：创建一个 epoll 实例。
• epoll_ctl：添加/删除需要监听的文件描述符。
• epoll_wait：等待事件的发生。

优势：

• 无数量限制：没有文件描述符数量限制。
• 高效：只有活跃的文件描述符才会被传递给用户空间，减少了不必要的复制操作。
• 功能强大：支持边缘触发和水平触发两种工作模式。

2.4 kqueue

特点：kqueue 是 FreeBSD 操作系统引入的一种 IO 多路复用技术，后来也被 Mac OS X 和其他基于 BSD 的操作系统采用。kqueue 可以同时处理多种类型的事件，包括但不限于文件描述符事件、信号事件等。

优势：

• 功能更强大：不仅支持文件描述符的事件通知，还能处理其他类型的事件。
• 性能优秀：与 epoll 类似，只有活跃的文件描述符才会被处理，从而提高了效率。

3. 区别对比

总结

IO 多路复用技术是现代网络编程中不可或缺的一部分，它允许单个线程高效地管理多个网络连接。不同的实现技术有其各自的优缺点，选择合适的 IO 多路复用技术取决于具体的应用场景和平台。select 和 poll 适用于连接数较少的场景，而 epoll 和 kqueue 则在处理大量并发连接时表现出色。开发者应根据具体需求选择最合适的 IO 多路复用技术，以实现高效的网络编程。