图解HTTP权威指南(三)| Web服务器对HTTP请求的处理和响应
作者简介
李先生(Lemon),高级运维工程师(自称),SRE专家(目标),梦想在35岁买一辆保时捷。喜欢钻研底层技术,认为底层基础才是王道。一切新技术都离不开操作系统(CPU、内存、磁盘)、网络等。坚持输入输出,记录自己学习的点滴,在平凡中坚持前行,总有一天会遇见不一样的自己。公众号:运维汪(ID:Leeeee_Li)。
一、问题
解释Web服务器是如何处理HTTP事务的
二、Web服务器
Web服务器会对HTTP请求进行处理并提供响应。Web服务器请求的七大步骤:
1)接受客户端连接
2)接收请求报文
3)处理请求
4)资源映射及访问
5)构建响应
6)发送响应
7)记录日志
1、接受客户端连接
1)处理新连接
客户端请求一条到Web服务器的TCP连接时,Web服务器会建立连接,判断连接的另一端是哪个客户端,从TCP连接中将IP地址解析出来。一旦新连接建立起来并接受,服务器就会将新连接添加到其现存Web服务器连接列表中,做好监视连接上数据传输的准备。Web服务器可以随意拒绝或立即关闭任意一条连接。有些Web服务器会因为客户端IP地址或主机名是未认证的,或者因为它是已知的恶意客户端而关闭连接。Web服务器也可以使用其他技术识别。
2)客户端主机名识别
可以用”反向DNS“对大部分Web服务器进行配置,以便将客户端IP地址转换成客户端主机名。Web服务器可以将客户端主机名用于详细的访问控制和日志记录。需要注意的是,主机名查找可能会花费很长的时间,这样会降低Web事务处理的速度。很多大容量的Web服务器会禁止主机名解析,或者只允许对特定内容进行解析。
可以用配置指令Hostnamelookups启用Apache的主机查找功能。如只打开HTML和CGI资源的主机名解析功能。
HostnameLookups off <Files ~ "\.(html|htm|cgi)$"> HostnameLookups on </Files>
3)通过ident确定客户端用户
服务器可以通过ident协议找到发起HTTP连接的用户名。这些信息对Web服务器的日志记录特别有用,流行的通用日志格式的第二个字段就包含了每条HTTP请求的ident用户名。
1)客户端打开一条HTTP连接
2)服务器打开自己到客户端ident服务113端口的连接
3)服务器发送一条简单的请求,询问与新连接相对应的用户名,把那个从客户端解析出包含用户名的响应
Apache的IdentityCheck on指令告知Apache Web服务器使用ident查找功能,如果没有ident信息可用,Apache会用连字符(-)来填充ident日志字段。如果没有ident信息可用,在使用通用日志格式的日志文件中,第二个字段通常都是连字符。
2、接收请求报文
当连接上有数据到达时,Web服务器会从网络连接中读取数据,并将请求报文中的内容解析出来。
1)解析请求报文时,Web服务器的工作
1、解析请求行,查找请求方法、指定的资源标识符(URI)以及版本号,各项之间有一个空格隔开,并以一个回车换行(CRLF)序列作为行的结束;
2、读取以CRLF结尾的报文首部;
3、检测到以CRLF结尾的、标识首部结束的空行;
4、读取请求主体
2)报文的内部表示法
3、连接的输入/输出处理结构
高性能的Web服务器能够同时支持数千条连接,每个客户端都向服务器打开了一条或多条连接。不同的Web服务器会以不同的方式为请求服务。
单线程Web服务器:单线程的Web服务器一次只处理一个请求,直到其完成为止。一个事务处理结束之后,才去处理下一条连接。
多进程及多线程Web服务器:多进程和多线程Web服务器用多个进程,或更高效的线程同时对请求进行处理。
复用I/O的服务器:在复用结构中,要同时监视所有连接上的活动。当连接的状态发生变化时,就对那条连接进行处理,处理结束后,将连接返回到开放的连接列表中,等待下一次的状态变化。只有在有事情可以做时才会对连接进行处理,在空闲连接上等待的时候并不会绑定线程和进程。
复用的多线程Web服务器:将多线程和复用功能结合在一起,利用计算机的多个CPU。多个线程中(通常是一个物理处理器)的每一个都在观察打开的连接,并对每条连接(或打开连接中的一个子集)执行任务。
3、处理请求
当Web服务器接收到请求后,根据方法、资源、首部和可选的主体部分来对请求进行处理。
4、对资源的映射及访问
1)docroot(文档的根目录)
Web服务器的文件系统中有一个专门存放Web内容的目录,称为文档的根目录(document root,或docroot)。当一个Web服务器的根目录为/usr/local/httpd/files,并且有一条/special/s.gif的请求到达时,他的访问如图
在Apache中,对配置文件httpd.conf添加一行DocumentRoot行就可设置文档的根目录
DocumentRoot /usr/local/httpd/files
2)虚拟托管的docroot
虚拟托管的Web服务器会在同一台Web服务器上提供多个Web站点,每个站点在服务器上都有自己都有的文档根目录。虚拟托管Web服务器会根据URI或Host首部的IP或主机名来识别要使用的正确的文档根目录。通过这种方式,及时请求的URI相同,托管在同一Web服务器上的两个Web站点也可以拥有完全不同的内存。
A请求进来时,获取服务器的/doc/aaa/index.html
B请求进来时,获取服务器的/doc/bbb/index.html
在Apache可配置如下:
<VirtualHost www.aaa.com> ServerName www.aaa.com DocumentRoot /doc/aaa TransferLog /logs/aaa.access_log ErrorLog /1ogs/aaa.error_log </VirtualHost> <VirtualHost www.bbb.com> ServerName www.bbb.com DocumentRoot /doc/bbb TransferLog /logs/bbb.access_log ErrorLog /1ogs/bbb.error_log </VirtualHost>
3)用户的主目录docroot
Docroot提供私有的Web站点时,通常会以斜杠和波浪号(/~)开始,如
A请求进来时,获取服务器的/home/mary/index.html
B请求进来时,获取服务器的/home/ken/index.html
5、构建响应
一旦Web服务器识别出了资源、就执行请求方法中的描述的动作,并返回响应报文。响应报文中包含有状态码、响应首部、如果生成了响应主体的话,还包括响应主体。
1)响应主体
如果事务处理产生了响应主体,就将内容放在响应报文中回送过去。如果有响应主体的话,响应报文中通常包括:
a)描述了响应主体MIME类型的Content-Type首部;
b)描述了响应主体长度的Content-Length首部;
c)实际报文的主题内容
2)MIME类型
Web服务器要负责确定响应主体的MIME类型。
a)根据扩展名确定MIME类型
Web服务器可以用文件的扩展名来说明MIME类型。Web服务器会为每个资源扫描一个包含了所有扩展名的MIME类型的文件,以确定MIME类型。Web服务器用MIME类型文件来设置资源输出的Content-type首部。
b)魔法分类
Apache Web服务器扫描每个资源的内容,并与一个已知模式表(魔法文件)进行匹配,决定每个文件的MIME类型。
c)显示分类
对Web服务器进行配置,使其不考虑文件的扩展名和内容,强制特定文件或目录内容拥有某个MIME类型。
d)类型协商
通过配置Web服务器,使其可以通过与用户的协商来决定使用哪种格式以及相关的MIME类型。
3)重定向
Web服务器有时会返回重定向响应而不是成功的报文。Web服务器可以将浏览器重定向到其他地方来执行请求。重定向响应码为3XX系列。Location响应首部包含了内容的新地址或优选地址的URL。
a)永久删除的资源
资源可能已经被移动到了新的位置,或者被重新命名,有了一个新的URL。Web服务器可以告诉客户端资源已经被重新命名了,这样客户端就可以在从新地址获取资源之前,更新书签之类的信息了。状态码301 Moved Permanently用于此类重定向。
b)临时删除的资源
资源被临时移走了或重命名了。服务器可能希望将客户端重定向到新的位置上去。但由于重命名是临时的,所以服务器希望客户端将来还可以回头使用老的URL,不要对书签进行更新。状态吗303 See Other以及状态码307 Temporary Redirect用于此类重定向。
c)URL增强
服务器通常用重定向来重写URL,往往用于嵌入上下文。当请求到达时,服务器会生成一个新的包含了嵌入式状态信息的URL,并将用户重定向到这个新的URL上。客户端会跟随这个重定向信息,重新发起请求,但这次的请求会包含完整的、经过状态增强的URL。状态吗303 See Other以及状态码307 Temporary Redirect用于此类重定向。
d)负载均衡
一个超载的服务器收到一条请求,服务器可以将客户端重定向到一个负载不太重的服务器上去。状态吗303 See Other以及状态码307 Temporary Redirect用于此类重定向。
e)服务器关联
Web服务器上可能会有某些用户的本地信息,服务器可以将客户端重定向到包含了那个客户端信息的服务器上去。状态吗303 See Other以及状态码307 Temporary Redirect用于此类重定向。
f)规范目录名称
客户端请求的URL是一个不带尾部斜线的目录名时,大多数Web服务器都会将客户端重定向到一个加了斜线的URL上,这样相对链接就可以正常工作了。
6、发送响应
Web服务器通过连接发送数据,发送数据与接收数据一样可能有多条到客户端的连接,有些是空闲的,有些在向服务器发送数据,还有一些在向客户端回送响应数据。服务器要记录连接的状态,还需要特别注意持久连接的处理。对于非持久连接,服务器应该在发送了整条报文之后,关闭自己这一端的连接。
7、记录日志
当事务结束时,Web服务器会在日志文件中添加一个条目,来描述已执行的事务。
三、学习交流
欢迎大家关注我的公众号,一起交流、学习。