Nginx的工作原理

Nginx作为边缘节点,它处理的流量是其他节点的数倍,是如何处理上万的请求了?

我们将从Nginx的进程管理机制和请求处理流程2个方面介绍Nginx如何高效的处理请求。

进程管理机制

Nginx设计了合理的进程模型,合理的分配工作,让Nginx进程有序的处理请求。

Nginx进程模型

Nginx的进程模型分为单进程模型和多进程模型。

单进程模型只有Master进程,所有的工作由Master进程完成,适用于开发调试模式。我们可以在主配置端配置master_process on开启单进程模式。

 

 

 

 

多进程模型包含Master进程、Worker进程和Cache进程。它是Nginx默认的方式,更加的健壮,适用于生产环境多核架构。下图可以看出Worker进程和Cache进程是Master进程的子进程。

Nginx进程分工

Nginx多进程模型分工非常明确。

Nginx的Master进程负责监控和管理Worker进程、Cache进程的状态,当发现子进程异常会重新启动一个新的子进程。另外,Master进程负责读取配置文件并验证配置文件的有效性和正确性,并通过通知子进程使用新的配置。

Nginx的Worker进程负责处理客户端的请求。它既需要与客户端保持连接接收客户端的请求,也需要与上游服务器通信,接收上游服务器的响应报文发送给客户端。

Nginx的CacheLoader和CacheManager进程主要负责管理缓存数据。CacheLoader进程负责缓存数据,而CacheManager进程负责管理缓存的过期时间。

 

 

Nginx启动

 

上一篇博文中我们介绍了Nginx的管理命令,Nginx启动、优雅重启的背后做了哪些准备工作了?

通过开启Nginx的Debug日志去观察Nginx的启动过程,总结了如下图示。

 

 

 

我们都知道优雅重启(nginx -s reload)是不影响业务的同时完成新的配置加载。在业务繁忙时期执行Nginx优雅重启,可能出现Nginx的Worker进程的状态是 worker process is shutting down的情况,如下图。

 

通过开启Nginx的Debug日志观察Nginx优雅重启可以看出它经历了如下几个步骤完成优雅重启。

  1. Master进程收到管理员发来的Reload信号。
  2. Master进程检查配置文件语法正确性。如果正确则继续,否则报错并回滚配置。
  3. Master进程打开新的监听端口。
  4. Master进程使用新的配置文件启动新的Worker进程
  5. Master进程向老的Worker进程发送QUIT信号让其优雅退出。
  6. 老的Worker进程关闭监听句柄,并继续为当前连接提供服务
  7. 老的Worker进程处理完当前连接后结束进程

上图的的情况是由于118230的Worker进程已经关闭了监听句柄,并继续为当前的连接提供服务。由于当前的连接并未关闭所以该进程还不能退出,直到当前的连接断开该Worker进程才退出。

 

 

 

请求处理流程

为了更高效的处理请求,Nginx制定了处理请求的流程。

Nginx将Worker进程设计为可以同时处理成千上万个连接。每个Worker进程都是对等、独立并且同等竞争来自客户端的请求。Worker进程处理请求之前必须要抢夺锁并注册事件,这种方式避免了多个Worker进程处理同一个请求的情况。

开启Nginx的Debug日志去观察Nginx处理请求的过程总结如下图。

 

 

 

HTTP请求处理阶段

 

针对HTTP请求,Nginx定义了11个处理阶段保证HTTP请求处理过程的有序进行。

 

 

在源码的https://github.com/nginx/nginx/blob/master/src/http/ngx_http_core_module.h   107行至126行也能找到HTTP请求阶段的定义。

不管官方模块、第三方模块或者自定义模块,只要是需要处理HTTP的请求的模块,都需要定义请求处理阶段。