对于服务器的并发处理能力，我们需要的是：每一毫秒服务器都能及时处理这一毫秒内收到的数百个不同TCP连接上的报文，与此同时，可能服务器上还有数以十万计的最近几秒没有收发任何报文的相对不活跃连接。同时处理多个并行发生事件的连接，简称为并发；同时处理万计、十万计的连接，则是高并发。服务器的并发编程所追求的就是处理的并发连接数目无限大，同时维持着高效率使用CPU等资源，直至物理资源首先耗尽。
在互联网迅猛发展的数十年里，我们不断面临新的场景与挑战，例如大数据、大规模集群计算、复杂的网络环境、多核处理器对于高并发的需求、云计算、上千万行的服务器代码等，那些成熟但“上了年纪”的语言不能为新的场景给出直接的解决方案，此时，Go语言应运而生了。
作为即时通讯技术的开发者来说，高性能、高并发相关的技术概念早就了然与胸，什么线程池、零拷贝、多路复用、事件驱动、epoll等等名词信手拈来，又或许你对具有这些技术特征的技术框架比如：Java的Netty、Php的workman、Go的nget等熟练掌握。但真正到了面视或者技术实践过程中遇到无法释怀的疑惑时，方知自已所掌握的不过是皮毛。
阻塞与非阻塞的重点在于进/线程等待消息时候的行为，也就是在等待消息的时候，当前进/线程是挂起状态，还是非挂起状态。
相对于传统软件行业，互联网行业存在的最大技术挑战之一应该就是高并发了。最初我对高并发的理解，就是服务器存在压力，然后堆机器，很low，但是没准很有效，当然也存在一些问题。
简单的说apache httpd和nginx都是web服务器，但两者适应的场景不同，也就是两者专注于解决不同的问题。apache httpd:稳定、对动态请求处理强，但同时高并发时性能较弱，耗费资源多。nginx：高并发处理能力强、擅长处理静态请求、反向代理、均衡负载。在 这篇文章详细列出了apache与nginx的13个异同点，下面我们来一一分析其原理。
Nginx才短短几年，就拿下了Web服务器大壁江山，众所周知，Nginx在处理大并发静态请求方面，效率明显高于Httpd，甚至能轻松解决C10K问题。
在这个连接的生命周期里，绝大部分时间都是空闲的，活跃时间（发送数据和接收数据的时间）占比极少，这样独占一个服务器是严重的资源浪费。事实上所有的服务器都是高并发的，可以同时为成千上万个客户端提供服务，这一技术又被称为IO复用。
Nginx 轻量级，采用 C 进行编写，同样的 web 服务，会占用更少的内存及资源 抗并发，nginx 以 epoll and kqueue 作为开发模型，处理请求是异步非阻塞的，负载能力比 apache 高很多，而 apache 则是阻塞型的。在高并发下 nginx 能保持低资源低消耗高性能 ，而 apache 在 PHP 处理慢或者前端压力很大的情况下，很容易出现进程数飙升，从而拒绝服务的现象。 nginx 处理静态文件好，静态处理性能比 apache 高三倍以上 nginx 的设计高度模块化，编写模块相对简单 nginx 配置简洁，正则配置让很多事情变得简单，而且改完配置能使用 -t 测试配置有没有问题，apache 配置复杂 ，重启的时候发现配置出错了，会很崩溃 nginx 作为负载均衡服务器，支持 7 层负载均衡 nginx 本身就是一个反向代理服务器，而且可以作为非常优秀的邮件代理服务器 启动特别容易, 并且几乎可以做到 7*24 不间断运行，即使运行数个月也不需要重新启动，还能够不间断服务的情况下进行软件版本的升级 社区活跃，各种高性能模块出品迅速 Apache apache 的 rewrite 比 nginx 强大，在 rewrite 频繁的情况下，用 apache apache 发展到现在，模块超多，基本想到的都可以找到 apache 更为成熟，少 bug ，nginx 的 bug 相对较多 apache 超稳定 apache 对 PHP 支持比较简单，nginx 需要配合其他后端用 apache 在处理动态请求有优势，nginx 在这方面是鸡肋，一般动态请求要 apache 去做，nginx 适合静态和反向。 apache 仍然是目前的主流，拥有丰富的特性，成熟的技术和开发社区 总结 两者最核心的区别在于 apache 是同步多进程模型，一个连接对应一个进程，而 nginx 是异步的，多个连接（万级别）可以对应一个进程
两者最核心的区别在于 apache 是同步多进程模型，一个连接对应一个进程，而 nginx 是异步的，多个连接（万级别）可以对应一个进程
思考几分钟，如果你可以有理有据地说出答案，那确实就不用再往下看了，关上手机去陪陪家人是个不错的选择。
本篇是高性能、高并发系列的第三篇，承接上文《读取文件时程序经历了什么》，在讲解了进程、线程以及I/O后，我们来到了高并发中又一关键技术，即I/O多路复用。
传统的服务器使用“listen-accept-创建通信socket”完成客户端的一次请求服务。在高并发服务模型中，服务器创建很多进程-单线程（比如apache mpm）或者n进程：m线程比例创建服务线程（比如nginx event）。机器上运行着不等数量的服务进程或线程。这些进程监听着同一个socket。这个socket是和客户端通信的唯一地址。服务器父子进程或者多线程模型都accept该socket，有几率同时调用accept。当一个请求进来，accept同时唤醒等待socket的多个进程，但是只有一个进程能accept到新的socket，其他进程accept不到任何东西，只好继续回到accept流程。这就是惊群效应。如果使用的是select/epoll+accept，则把惊群提前到了select/epoll这一步，多个进程只有一个进程能acxept到连接，因为是非阻塞socket，其他进程返回EAGAIN。
在《朴素、Select、Poll和Epoll网络编程模型实现和分析——模型比较》一文中，我们分析了各种模型在处理短连接时的能力。本文我们将讨论处理长连接时各个模型的性能。（转载请指明出于breaksoftware的csdn博客）
epoll和select 假设你在大学读书，住的宿舍楼有很多间房间，你的朋友要来找你。 select版宿管大妈就会带着你的朋友挨个房间去找，直到找到你为止。 而epoll版宿管大妈会先记下每位同学的房间号， 你的朋友来时，只需告诉你的朋友你住在哪个房间即可，不用亲自带着你的朋友满大楼找人。 如果来了10000个人，都要找自己住这栋楼的同学时，select版和epoll版宿管大妈，谁的效率更高，不言自明。 同理，在高并发服务器中，轮询I/O是最耗时间的操作之一，select和epoll的性能谁的性
有人可能要问了，nginx采用多worker的方式来处理请求，每个worker里面只有一个主线程，那能够处理的并发数很有限啊，多少个worker就能处理多少个并发，何来高并发呢？非也，这就是nginx的高明之处，nginx采用了异步非阻塞的方式来处理请求，也就是说，nginx是可以同时处理成千上万个请求的。
多进程/线程并发模中每当一个客户端连接服务器，就创建一个新的进程/线程为该客户端服务，客户端退出时再销毁该进程/线程，多任务并发模型也是实际工作中最为常用的服务端处理模型。
http://blog.csdn.net/hguisu/article/details/8930668 （排名100多bolg写的很好）
目前限流的解决方案有很多，从分布式角度来看，限流可分为分布式限流（比如基于Sentinel或者 Redis的集群限流）和单机限流。
👆点击“博文视点Broadview”，获取更多书讯 程序员编写代码执行I/O操作最终都逃不过文件这个概念。 在Unix/Linux世界中，文件是一个很简单的概念，作为程序员我们只需要将其理解为一个N字节的序列就可以了： b1, b2, b3, b4, ....... , bN 实际上，所有的I/O设备都被抽象为了文件这个概念，一切皆文件（Everything is File），磁盘、网络数据、终端，甚至进程间通信工具管道pipe等都被当成文件对待。 所有的I/O操作也都可以通过文件读写来实现，这一抽
（微信公众号：IT技术精选文摘, 微信号：ITHK01, 欢迎订阅） 同Apache http server的Perfork工作模型类似，Nginx也有master,worker进程的概念。 第一，很显然，启动Nginx，就必须在端口启动监听服务，也就是套接字（ip+port），通常Nginx作为WEB SERVER和反向代理服务器都会在80端口监听。在LINUX上，要开启<1024端口的监听服务，必须用特权身份运行，也就是说master进程应该以root身份启动。 第二，那么master进程主要的
近些年，随着互联网的大发展，高并发服务器技术也快速进步，从简单的循环服务器模型处理少量网络并发请求，演进到解决C10K，C10M问题的高并发服务器模型。本文结合自己的理解，主要以TCP为例，总结了几种常见的网络服务器模型的实现方式，优缺点，以及应用实例。
这篇文章我们将介绍服务器的开发，并从多个方面探究如何开发一款高性能高并发的服务器程序。需要注意的是一般大型服务器，其复杂程度在于其业务，而不是在于其代码工程的基本框架。大型服务器一般有多个服务组成，可能会支持 CDN，或者支持所谓的“分布式”等，这篇文章不会介绍这些东西，因为不管结构多么复杂的服务器，都是由单个服务器组成的。所以这篇文章的侧重点是讨论单个服务程序的结构，而且这里的结构指的也是单个服务器的网络通信层结构，如果你能真正地理解了我所说的，那么在这个基础的结构上面开展任何业务都是可以的，也可以将这种结构扩展成复杂的多个服务器组，例如“分布式”服务。文中的代码示例虽然是以 C++ 为例，但同样适合Java（我本人也是Java开发者），原理都是一样的，只不过Java可能在基本的操作系统网络通信API的基础上用虚拟机包裹了一层接口而已（Java甚至可能基于一些常用的网络通信框架思想提供了一些现成的 API，例如 NIO ）。有鉴于此，这篇文章不讨论那些大而空、泛泛而谈的技术术语，而是讲的是实实在在的能指导读者在实际工作中实践的编码方案或优化已有编码的方法。另外这里讨论的技术同时涉及 Windows 和 Linux 两个平台。
图中一共有A、B、C、D四个应用，对外分别提供4种服务，此时B应用与C应用之间直接调用，A、B、C、D4个应用与操作系统之间直接交互，随着应用数量越来越多，就会导致层次化的应用不够隔离，服务之间耦合程度高，因此我们需要有一个东西来为我们代理和处理相关的一些通用请求，而只让应用处理相关的业务逻辑，这时就出现了一个叫做中间件的东西，如下图
在 Linux 系统之中有一个核心武器：epoll 池，在高并发的，高吞吐的 IO 系统中常常见到 epoll 的身影。
中文地址： https://www.oschina.net/translate/c10k
eventfd 是 Linux 内核中用于线程或进程间通信的一种机制。它提供了一种简单的方式，让一个线程或进程可以通知另一个线程或进程某个事件已经发生。eventfd 是基于文件描述符的，因此可以与 select、poll 或 epoll 等 I/O 多路复用机制一起使用。
引用一句经典的话：“UNIX下一切皆文件”。 文件是一种抽象机制，它提供了一种方式用来存储信息以及在后面进行读取。
Redis的高并发和快速原因 1.redis是基于内存的，内存的读写速度非常快；
Nginx是一款轻量级的Web服务器、反向代理服务器，由于它的内存占用少，启动极快，高并发能力强，在互联网项目中广泛应用。
哈哈，我终于对nginx下手了嘛。第一篇不知道要起个什么名字，入门吧，又不是很小白。设计与架构吧，又不是很深刻，而且不知道哪天就被我的另外的博客给吞了，就无题吧。
Redis，一个以超高的性能和强大的数据结构功能著称的内存数据库，在处理各种复杂数据操作时，速度却能达到惊人的水平。那么，Redis为什么能如此之快呢？今天，我们就来深入解析一下Redis的线程模型，揭开这个问题的神秘面纱。
这篇文章首先会讲解一下 Nginx 的进程模型，只有先理解了 Nginx 进程模型，才能深入理解 Nginx 实现高并发的原理。
里面的一个时间段内说明非常重要,这里假设这个时间段是一秒,所以本文指的并发是指服务器在一秒中处理的请求数量,即rps,那么rps高,本文就认为高并发.
在现今的企业级应用中，功能丰富的Nginx，作为HTTP服务器，作为反向代理服务器，作为邮件服务器......同时，也支持FastCGI、SSL、Virtual Host、URL Rewrite、Gzip等功能。并且支持很多第三方的模块扩展。因此，经常会用到Nginx服务，也时常会碰到Nginx因高并发导致的性能瓶颈问题。下面，小编就从理解到深入，对Nginx作一个稍微详细的介绍和说明。
Nginx ("engine x") 是一个高性能的 HTTP 和 反向代理 服务器，也是一个 IMAP/POP3/SMTP 代理服务器。 Nginx 是由 Igor Sysoev 为俄罗斯访问量第二的 Rambler.ru 站点开发的，第一个公开版本0.1.0发布于2004年10月4日。其将源代码以类BSD许可证的形式发布，因它的稳定性、丰富的功能集、示例配置文件和低系统资源的消耗而闻名。
缓存是一种将数据存储在高速缓存中的技术，它可以提高应用程序的性能和响应速度。以下是一些使用缓存的原因：
关于TCP服务器最大并发连接数有一种误解就是“因为端口号上限为65535,所以TCP服务器理论上的可承载的最大并发连接数也是65535”。
先抛出一个问题，基于此问题引出文章的主题：1999 年 Dan Kegel 在其个人站点提出了 C10K问题，首字母 C 是 Client 的缩写，C10K 即单机同时处理 1 万个连接的问题。C10K 表示处理 10000 个并发连接，注意这里的并发连接和每秒请求数不同，虽然它们是相似的，每秒处理许多请求需要很高的吞吐量（快速处理它们），但是更大数量的并发连接需要高效的连接调度，即 I/O 模型的问题。
在上一篇文章里我们介绍了 tomcat io 主要包含那些 items，在这里我们主要介绍tomcat io 的基础-多路复用。tomcat 服务器(tomcat7以上)默认使用 java NIO 模型，NIO 不仅仅需要 java 语言上的支持，同时还离不开各种操作系统对于多路复用的支持(linux，windows，mac 等等)，所以 tomcat的NIO 是建立在操作系统基础之上的。
目前我们网络所面临的依然是高并发的问题，就像某cat双11时的情况，瞬间的并发量是惊人的，当然我们会有很多种方法去解决这个问题，本文我们谈论的是单台服务器，如何提高自己对并发请求的处理能力。要想解决这个问题，我们需要先理清楚Unix和类Unix系统的I/O模型。
Nginx是一款轻量级的Web服务器、反向代理服务器，由于它的内存占用少（一个worker进程只占用10-12M内存），启动极快，高并发能力强，在互联网项目中广泛应用。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
