网站架构设计1.docx
- 文档编号:6845202
- 上传时间:2023-01-11
- 格式:DOCX
- 页数:13
- 大小:325.08KB
网站架构设计1.docx
《网站架构设计1.docx》由会员分享,可在线阅读,更多相关《网站架构设计1.docx(13页珍藏版)》请在冰豆网上搜索。
网站架构设计1
1、镜像网站技术
镜像网站是指将一个完全相同的站点放到几个服务器上,分别有自己的URL,这些服务器上的网站互相称为镜像网站[13]。
镜像网站和主站并没有太大差别,或者可以视为主站的拷贝。
镜像网站的好处是:
如果不能对主站作正常访问(如服务器故障,网络故障或者网速太慢等),仍能通过镜像服务器获得服务。
不便之处是:
更新网站内容的时候,需要同时更新多个服务器;需要用户记忆超过一个网址,或需要用户选择访问多个镜像网站中的一个,而用户选择的,不一定是最优的。
在用户选择的过程中,缺乏必要的可控性。
在互联网发展的初期,互联网上的网站内容很少,而且大都是静态内容,更新频率底。
但因为服务器运算能力低,带宽小,网速慢,热门网站的访问压力还是很大。
镜像网站技术在这种情况下作为一种有效解决方案,被广泛采用。
随着互联网的发展,越来越多的网站使用服务器端脚本动态生成内容,同步更新越来越困难,对可控性要求越来越高,镜像技术因为不能满足这类网站的需要,渐渐的淡出了人们的视线。
但有一些大型的软件下载站,因为符合镜像网站的条件——下载的内容是静态的,更新频率较低,对带宽,速度要求又比较高,如国外的SourceForge(http:
//www.SourceF,著名开源软件托管网站),Fedora(http:
//fedoraproject.org,RedHat赞助的Linux发行版),国内的华军软件园(),天空软件站()等,还在使用这项技术(图1)。
在网站建设的过程中,可以根据实际情况,将静态内容作一些镜像,以加快访问速度,提升用户体验。
CDN与镜像网站技术的不同之处在于网站代替用户去选择最优的内容服务器,增强了可控制性。
CDN其实是夹在网页浏览者和被访问的服务器中间的一层镜像或者说缓存,浏览者访问时点击的还是服务器原来的URL地址,但是看到的内容其实是对浏览者来说最优的一台镜像服务器上的页面缓存内容。
这是通过调整服务器的域名解析来实现的。
使用CDN技术的域名解析服务器需要维护一个镜像服务器列表和一份来访IP到镜像服务器的对应表。
当一个用户的请求到来的时候,根据用户的IP,查询对应表,得到最优的镜像服务器的IP地址,返回给用户。
这里的最优,需要综合考虑服务器的处理能力,带宽,离访问者的距离远近等因素。
当某个地方的镜像网站流量过大,带宽消耗过快,或者出现服务器,网络等故障的时候,可以很方便的设置将用户的访问转到另外一个地方(图2)。
这样就增强了可控制性。
CDN网络加速技术也有它的局限性。
首先,因为内容更新的时候,需要同步更新多台镜像服务器,所以它也只适用于内容更新不太频繁,或者对实时性要求不是很高的网站;其次,DNS解析有缓存,当某一个镜像网站的访问需要转移时,主DNS服务器更改了IP解析结果,但各地的DNS服务器缓存更新会滞后一段时间,这段时间内用户的访问仍然会指向该服务器,可控制性依然有不足。
目前,国内访问量较高的大型网站如新浪、网易等的资讯频道,均使用CDN网络加速技术(图3),虽然网站的访问量巨大,但无论在什么地方访问,速度都会很快。
但论坛,邮箱等更新频繁,实时性要求高的频道,则不适合使用这种技术。
ChinaCache的服务节点全球超过130个,
其中中国节点超过80个,
覆盖全国主要6大网络的主要省份[15]。
2、应用层分布式设计
新浪播客为了获得CDN网络加速的优点,又必须避免CDN的不足,在应用层软件设计上,采取了一个替代的办法。
新浪播客提供了一个供播放器查询视频文件地址的接口。
当用户打开视频播放页面的时候,播放器首先连接查询接口,通过接口获得视频文件所在的最优的镜像服务器地址,然后再到该服务器去下载视频文件。
这样,用一次额外的查询获得了全部的控制性,而这次查询的通讯流量非常小,几乎可以忽略不计。
CDN中由域名解析获得的灵活性也保留了下来:
由接口程序维护镜像网站列表及来访IP到镜像网站的对应表即可。
镜像网站中不需要镜像所有的内容,而是只镜像更新速度较慢的视频文件。
这是完全可以承受的。
3交换层架构
3.1第四层交换简介
按照OSI[16]七层模型,第四层是传输层。
传输层负责端到端通信,在IP协议栈中是TCP和UDP所在的协议层。
TCP和UDP数据包中包含端口号(portnumber),它们可以唯一区分每个数据包所属的协议和应用程序。
接收端计算机的操作系统根据端口号确定所收到的IP包类型,并把它交给合适的高层程序。
IP地址和端口号的组合通常称作“插口(Socket)”。
第四层交换的一个简单定义是:
它是一种传输功能,它决定传输不仅仅依据MAC地址(第二层网桥)或源/目标IP地址(第三层路由),而且依据IP地址与TCP/UDP(第四层)应用端口号的组合(Socket)[17]。
第四层交换功能就像是虚拟IP,指向实际的服务器。
它传输的数据支持多种协议,有HTTP、FTP、NFS、Telnet等。
以HTTP协议为例,在第四层交换中为每个服务器组设立一个虚拟IP(VirtueIP,VIP),每组服务器支持某一个或几个域名。
在域名服务器(DNS)中存储服务器组的VIP,而不是某一台服务器的真实地址。
当用户请求页面时,一个带有目标服务器组的VIP连接请求发送给第四层交换机。
第四层交换机使用某种选择策略,在组中选取最优的服务器,将数据包中的目标VIP地址用实际服务器的IP地址取代,并将连接请求传给该服务器。
第四层交换一般都实现了会话保持功能,即同一会话的所有的包由第四层交换机进行映射后,在用户和同一服务器间进行传输[18]。
第四层交换按实现分类,分为硬件实现和软件实现。
3.2硬件实现
第四层交换的硬件实现一般都由专业的硬件厂商作为商业解决方案提供。
常见的有Alteon[19],F5[20]等。
这些产品非常昂贵,但是能够提供非常优秀的性能和很灵活的管理能力。
Yahoo中国当初接近2000台服务器使用了三四台Alteon就搞定了[21]。
鉴于条件关系,这里不展开讨论。
3.3软件实现
第四层交换也可以通过软件实现,不过性能比专业硬件稍差,但是满足一定量的压力还是可以达到的,而且软件实现配置起来更灵活。
软件四层交换常用的有Linux上的LVS(LinuxVirtualServer),它提供了基于心跳(heartbeat)的实时灾难应对解决方案,提高了系统的鲁棒性,同时提供了灵活的VIP配置和管理功能,可以同时满足多种应用需求[22]。
4 服务器优化
4.1 服务器整体性能考虑
对于价值昂贵的服务器来说,怎样配置才能发挥它的最大功效,又不至于影响正常的服务,这是在设计网站架构的时候必须要考虑的。
常见的影响服务器的处理速度的因素有:
网络连接,硬盘读写,内存空间,CPU速度。
如果服务器的某一个部件满负荷运转仍然低于需要,而其他部件仍有能力剩余,我们将之称为性能瓶颈。
服务器想要发挥最大的功效,关键的是消除瓶颈,让所有的部件都被充分的利用起来。
4.2Socket优化
以标准的GNU/Linux为例。
GNU/Linux发行版试图对各种部署情况都进行优化,这意味着对具体服务器的执行环境来说,标准的发行版可能并不是最优化的[23]。
GNU/Linux提供了很多可调节的内核参数,可以使用这些参数为服务器进行动态配置,包括影响Socket性能的一些重要的选项。
这些选项包含在/proc虚拟文件系统中。
这个文件系统中的每个文件都表示一个或多个参数,它们可以通过cat工具进行读取,或使用echo命令进行修改。
这里仅列出一些影响TCP/IP栈性能的可调节内核参数[24]:
/proc/sys/net/ipv4/tcp_window_scaling“1”(1表示启用该选项,0表示关闭,下同)启用RFC[25]1323[26]定义的windowscaling;要支持超过64KB的窗口,必须启用该值。
/proc/sys/net/ipv4/tcp_sack“1”启用有选择的应答(SelectiveAcknowledgment),通过有选择地应答乱序接收到的报文来提高性能(这样可以让发送者只发送丢失的报文段);对于广域网通信来说,这个选项应该启用,但是这也会增加对CPU的占用。
/proc/sys/net/ipv4/tcp_timestamps“1”以一种比重发超时更精确的方法(参阅RFC1323)来启用对RTT的计算;为了实现更好的性能应该启用这个选项。
/proc/sys/net/ipv4/tcp_mem“245763276849152”确定TCP栈应该如何反映内存使用;每个值的单位都是内存页(通常是4KB)。
第一个值是内存使用的下限。
第二个值是内存压力模式开始对缓冲区使用应用压力的上限。
第三个值是内存上限。
超过这个上限时可以将报文丢弃,从而减少对内存的使用。
/proc/sys/net/ipv4/tcp_wmem“409616384131072”为自动调优定义每个socket使用的内存。
第一个值是为socket的发送缓冲区分配的最少字节数。
第二个值是默认值(该值会被wmem_default覆盖),缓冲区在系统负载不重的情况下可以增长到这个值。
第三个值是发送缓冲区空间的最大字节数(该值会被wmem_max覆盖)。
/proc/sys/net/ipv4/tcp_westwood“1”启用发送者端的拥塞控制算法,它可以维护对吞吐量的评估,并试图对带宽的整体利用情况进行优化;对于WAN通信来说应该启用这个选项。
与其他调优努力一样,最好的方法实际上就是不断进行实验。
具体应用程序的行为、处理器的速度以及可用内存的多少都会影响到这些参数对性能作用的效果。
在某些情况中,一些认为有益的操作可能恰恰是有害的(反之亦然)。
因此,需要逐一试验各个选项,然后检查每个选项的结果,最后得出最适合具体机器的一套参数。
如果重启了GNU/Linux系统,设置的内核参数都会恢复成默认值。
为了将所设置的值作为这些参数的默认值,可以使用/etc/rc.local文件,在系统每次启动时自动将这些参数配置成所需要的值。
在检测每个选项的更改带来的效果的时候,GNU/Linux上有一些非常强大的工具可以使用:
ping这是用于检查主机的可用性的最常用的工具,也可以用于计算网络带宽延时。
traceroute打印连接到特定网络主机所经过的一系列路由器和网关的路径(路由),从而确定每个hop之间的延时。
netstat确定有关网络子系统、协议和连接的各种统计信息。
tcpdump显示一个或多个连接的协议级的报文跟踪信息,其中包括时间信息,可以使用这些信息来研究不同协议的报文时间。
Ethereal以一个易于使用的图形化界面提供tcpump(报文跟踪)的信息,支持报文过滤功能。
iperf测量TCP和UDP的网络性能;测量最大带宽,并汇报延时和数据报的丢失情况。
4.3硬盘级缓存
硬盘级别的缓存是指将需要动态生成的内容暂时缓存在硬盘上,在一个可接受的延迟时间范围内,同样的请求不再动态生成,以达到节约系统资源,提高网站承受能力的目的。
Linux环境下硬盘级缓存一般使用Squid[27]。
Squid是一个高性能的代理缓存服务器。
和一般的代理缓存软件不同,Squid用一个单独的、非模块化的、I/O驱动的进程来处理所有的客户端请求。
它接受来自客户端对目标对象的请求并适当地处理这些请求。
比如说,用户通过浏览器想下载(即浏览)一个web页面,浏览器请求Squid为它取得这个页面。
Squid随之连接到页面所在的原始服务器并向服务器发出取得该页面的请求。
取得页面后,Squid再将页面返回给用户端浏览器,并且同时在Squid本地缓存目录里保存一份副本。
当下一次有用户需要同一页面时,Squid可以简单地从缓存中读取它的副本,直接返回给用户,而不用再次请求原始服务器。
当前的Squid可以处理HTTP,FTP,GOPHER,SSL和WAIS等协议。
Squid默认通过检测HTTP协议头的Expires和Cache-Control字段来决定缓存的时间。
在实际应用中,可以显式的在服务器端脚本中输出HTTP头,也可以通过配置apache的mod_expires模块,让apache自动的给每一个网页加上过期时间。
对于静态内容,如图片,视频文件,供下载的软件等,还可以针对文件类型(扩展名),用Squid的refresh_pattern来指定缓存时间。
Squid运行的时候,默认会在硬盘上建两层hash目录,用来存储缓存的Object。
它还会在内存中建立一个HashTable,用来记录硬盘中Object分布的情况。
如果Squid配置成为一个Squid集群中的一个的话,它还会建立一个DigestTable(摘要表),用来存储其它Squid上的Object摘要。
当用户端想要的资料本地硬盘上没有时,可以很快的知道应该去集群中的哪一台机器获得。
在硬盘空间快要达到配置限额的时候,可以配置使用某种策略(默认使用LRU:
LeastRecentlyUsed-最近最少用)删除一些Object,从而腾出空间[28][29]。
集群中的SquidServer之间可以有两种关系:
第一种关系是:
Child和Parent。
当ChildSquidServer没有资料时,会直接向ParentSquidServer要资料,然后一直等,直到Parent给它资料为止。
第二种关系是:
Sibling和Sibling。
当SquidServer没有资料时,会先向Sibling的SquidServer要资料,如果Sibling没资料,就跳过它向Parent要或直接上原始网站去拿。
默认配置的Squid,没有经过任何优化的时候,一般可以达到50%的命中率[30](图4)。
如果需要,还可以通过参数优化,拆分业务,优化文件系统等办法,使得Squid达到90%以上的缓存命中率。
Squid处理TCP连接消耗的服务器资源比真正的HTTP服务器要小的多,当Squid分担了大部分连接,网站的承压能力就大大增强了。
蓝线表示Squid的流量,绿色部分表示Apache流量
4.4内存级缓存
内存级别的缓存是指将需要动态生成的内容暂时缓存在内存里,在一个可接受的延迟时间范围内,同样的请求不再动态生成,而是直接从内存中读取。
Linux环境下内存级缓存Memcached[31]是一个不错的选择。
Memcached是(运营LiveJournal[32]的技术团队)开发的一套非常优秀的分布式内存对象缓存系统,用于在动态系统中减少数据库负载,提升性能。
和Squid的前端缓存加速不同,它是通过基于内存的对象缓存来减少数据库查询的方式改善网站的性能,而其中最吸引人的一个特性就是支持分布式部署;也就是说可以在一群机器上建立一堆Memcached服务,每个服务可以根据具体服务器的硬件配置使用不同大小的内存块,这样,理论上可以建立一个无限大的基于内存的缓存系统。
Memcached是以守护程序方式运行于一个或多个服务器中,随时接受客户端的连接操作,客户端可以由各种语言编写,目前已知的客户端API包括Perl/PHP/Python/Ruby/Java/C#/C等等[附录1]。
客户端首先与Memcached服务建立连接,然后存取对象。
每个被存取的对象都有一个唯一的标识符key,存取操作均通过这个key进行,保存的时候还可以设置有效期。
保存在Memcached中的对象实际上是放置在内存中的,而不是在硬盘上。
Memcached进程运行之后,会预申请一块较大的内存空间,自己进行管理,用完之后再申请一块,而不是每次需要的时候去向操作系统申请。
Memcached将对象保存在一个巨大的Hash表中,它还使用NewHash算法来管理Hash表,从而获得进一步的性能提升。
所以当分配给Memcached的内存足够大的时候,Memcached的时间消耗基本上只是网络Socket连接了[33]。
Memcached也有它的不足。
首先它的数据是保存在内存当中的,一旦服务进程重启(进程意外被关掉,机器重启等),数据会全部丢失。
其次Memcached以root权限运行,而且Memcached本身没有任何权限管理和认证功能,安全性不足。
第一条是Memcached作为内存缓存服务使用无法避免的,当然,如果内存中的数据需要保存,可以采取更改Memcached的源代码,增加定期写入硬盘的功能。
对于第二条,我们可以将Memcached服务绑定在内网IP上,通过Linux防火墙进行防护。
4.5CPU与IO均衡
在一个网站提供的所有功能中,有的功能可能需要消耗大量的服务器端IO资源,像下载,视频播放等,而有的功能则可能需要消耗大量的服务器CPU资源,像视频格式转换,LOG统计等。
在一个服务器集群中,当我们发现某些机器上CPU和IO的利用率相差很大的时候,例如CPU负载很高而IO负责很低,我们可以考虑将该服务器上的某些耗CPU资源的进程换成耗IO的进程,以达到均衡的目的。
均衡每一台机器的CPU和IO消耗,不仅可以获得更充分的服务器资源利用,而且还能够支持暂时的过载,遇到突发事件,访问流量剧增的时候,实现得体的性能下降(Gracefulperformancedegradation)[34],而不是立即崩溃。
4.6读写分离
如果网站的硬盘读写性能是整个网站性能提升的一个瓶颈的话,可以考虑将硬盘的读,写功能分开,分别进行优化。
在专门用来写的硬盘上,我们可以在Linux下使用软件RAID-0(磁盘冗余阵列0级)[35]。
RAID-0在获得硬盘IO提升的同时,也会增加整个文件系统的故障率——它等于RAID中所有驱动器的故障率之和。
如果需要保持或提高硬盘的容错能力,就需要实现软件RAID-1,4或5,它们能在某一个(甚至几个)磁盘驱动器故障之后仍然保持整个文件系统的正常运行[36],但文件读写效率不如RAID-0。
而专门用来读的硬盘,则不用如此麻烦,可以使用普通的服务器硬盘,以降低开销。
一般的文件系统,会综合考虑各种大小和格式的文件的读,写效率,因而对特定的文件读或写的效率不是最优。
如果有必要,可以通过选择文件系统,以及修改文件系统的配置参数来达到对特定文件的读或写的效率最大化。
比如说,如果文件系统中需要存储大量的小文件,则可以使用ReiserFS[37]来替代Linux操作系统默认的ext3系统,因为ReiserFS是基于平衡树的文件系统结构,尤其对于大量文件的巨型文件系统,搜索速度要比使用局部的二分查找法的ext3快。
ReiserFS里的目录是完全动态分配的,因此不存在ext3中常见的无法回收巨型目录占用的磁盘空间的情况。
ReiserFS里小文件(<4K)可以直接存储进树,小文件读取和写入的速度更快,树内节点是按字节对齐的,多个小文件可共享同一个硬盘块,节约大量空间。
ext3使用固定大小的块分配策略,也就是说,不到4K的小文件也要占据4K的空间,导致的空间浪费比较严重[38]。
但ReiserFS对很多Linux内核支持的不是很好,包括2.4.3、2.4.9甚至相对较新的2.4.16,如果网站想要使用它,就必须要安装与它配合的较好的2.4.18内核——一般管理员都不是很乐意使用太新的内核,因为在它上面运行的软件,都还没有经过大量的实践测试,也许有一些小的bug还没有被发现,但对于服务器来说,再小的bug也是不能接受的。
ReiserFS还是一个较为年轻的,发展迅速的文件系统,它相对于ext3来说有一个很大的缺陷就是,每次ReiserFS文件系统升级的时候,必须完全重新格式化整个磁盘分区。
所以在选择使用的时候,需要权衡取舍[39]。
5应用程序层优化
5.1网站服务器程序的选择
经统计[40],当前互联网上有超过50%的网站主机使用Apache[41]服务器程序。
Apache是开源界的首选Web服务器,因为它的强大和可靠,而且适用于绝大部分的应用场合。
但是它的强大有时候却显得笨重,配置文件复杂得让人望而生畏,高并发情况下效率不太高。
而轻量级的Web服务器Lighttpd[42]却是后起之秀,基于单进程多路复用技术,其静态文件的响应能力远高于Apache。
Lighttpd对PHP的支持也很好,还可以通过Fastcgi方式支持其他的语言,比如Python等。
虽然Lighttpd是轻量级的服务器,功能上不能跟Apache比,某些复杂应用无法胜任,但即使是大部分内容动态生成的网站,仍免不了会有一些静态元素,比如图片、JS脚本、CSS等等,可以考虑将Lighttpd放在Squid的前面,构成Lighttpd->Squid->Apache的一条处理链,Lighttpd在最前面,专门处理静态内容的请求,把动态内容请求通过Proxy模块转发给Squid,如果Squid中有该请求的内容且没有过期,则直接返回给Lighttpd。
新请求或者过期的页面请求交由Apache中的脚本程序来处理。
经过Lighttpd和Squid的两级过滤,Apache需要处理的请求大大减少,减少了Web应用程序的压力。
同时这样的构架,便于把不同的处理分散到多台计算机上进行,由Lighttpd在前面统一分发。
在这种架构下,每一级都是可以进行单独优化的,比如Lighttpd可以采用异步IO方式,Squid可以启用内存来缓存,Apache可以启用MPM(Multi-ProcessingModules,多道处理模块)等,并且每一级都可以使用多台机器来均衡负载,伸缩性好。
著名视频分享网站YouTube就是选择使用Lighttpd作为网站的前台服务器程序。
5.2数据库选择
MySQL[43]是一个快速的、多线程、多用户和健壮的SQL数据库服务器,支持关键任务、重负载系统的使用,是最受欢迎的开源数据库管理系统,是Linux下网站开发的首选。
它由MySQLAB开发、发布和提供支持。
MySQL数据库能为网站提供:
高性能。
MySQL支持海量,快速的数据库存储和读取。
还可以通过使用64位处理器来获取额外的一些性能,因为MySQL在内部里很多时候都使用64位的整数处理。
易用性。
MySQL的核心是一个小而快速的数据库。
它的快速连接,快速存取和安全可靠的特性使MySQL非常适合在互联网站上使用。
开放性。
MySQL提供多种后台存储引擎的选择,如MyISAM,Heap,InnoDB,BerkeleyDb等。
缺省格式为MyISAM。
MyISAM存储引擎与磁盘兼容的非常好[44]。
支持企业级应用。
MySQL有一个用于记录数据改变的二进制日志。
因为它是二进制的,这一日志能够快速地将数据的更改从一台机器复制(replication)到另一台机器上。
即使服务器崩溃,这一二进制日志也能够保持完整。
这一特性通常被用来搭建数据库集群,以支持更大的流量访问要求[30](图5)。
MySQL也有一些它自身的缺陷,如缺乏图形界面,缺乏存储过程,还不支持触发器,参照完整性,子查询和数据表视图等,但这些功能都在开发者的TO-DO列表当中。
这就是开源的力量:
你永远可以期待更好。
国外的Yahoo!
,国内的新浪,搜狐等很多大型商业网站都使用MySQL作为后台数据库。
对于一般的网站系统,无论从成本还是性能上考虑,MySQL应该是最佳的选择。
5.3服务器端脚本解析器的选择
目前最常见的服务器端脚本有三种:
ASP(ActiveServerPages),
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 网站 架构 设计