技术架构发展历程

         本文摘抄自《大型网站技术架构——核心原理与案例分析》,由李智慧 著

         在互联网日益发展的今日,人们每天浏览着大大小小的网站,使用着各式各样的APP,无数的流量在无形中穿梭。那我们是如何判断一个网站或者APP的后台服务器端是技术强弱呢?每年大概有两个日子,是最能体现一个网站技术架构好坏的。一个是11月11日,传统的光棍节,同时也是我们马云爸爸为世界创造的一个购物节。这个节日是我们这一辈看着它发展的,从一开始的网站崩溃,到后来支持每秒上千万条订单的完成,这就是一个技术架构的成长。还有一个日子——每年春运开始抢票的日子。日复一日,年复一年,12306非常奇怪的是,无论花再多的钱,有再多的经验,他们的架构师似乎对这种可能发生大规模并发访问的问题完全没有一点概念,系统好像从来也没有经过任何高并发场景的性能评估和测试,就那么干脆利落地每年都发生着同样的事情——趴在那里长时间起不来。
         
         其实,如何打造一个高可用、高性能、易扩展、可伸缩且安全的网站?无论是非技术人员的互联网创业者,还是单纯开发的技术人员晋升之路,都是起着非常大的一个决定性作用。

         大型互联网系统都有以下几个特点:
         高并发、大流量:Google日均PV数35个亿,日均IP访问数3个亿;腾讯QQ的最大在线用户数1.4个月(2011年数据);淘宝2012年双11活动一天交易额191亿,活动一开始第一分钟独立访问用户数达1000万。
         海量数据:需要储存、管理海量数据,需要使用大量服务器。Facebook每周上传的招聘数目接近10亿,百度收录的网站数目有数百亿,Google有近百万台服务器为全球用户服务。
         用户分布广泛,网络情况复杂:
         安全环境恶劣:
         需求快速变更,发布频繁:
         渐进式发展:

         发展历程:

         1.1 初始阶段的网站结构: 

         大型网站都是从小型网站发展而来,网站架构也是一样,是从小型网站架构逐步演化而来。小型网站最开始的时候没有多少人访问,只需要一台服务器就绰绰有余,这时候的网站架构如下: 

         应用程序、数据库、文件等所有的资源都在一台服务器上。汇集各种免费开源软件及一台廉价服务器就可以开始网站的发展之路了。

          1.2 应用服务和数据服务分离

         随着网站业务的发展,一台服务器主键不能满足需求: 越来越多的用户访问导致性能越来越差,越来越多的数据导致储存空间不足。这时就需求将应用和数据分离,应用和数据分离后整个网站使用三台服务器:应用服务器、文件服务器和数据库服务器,如图1.2所示。这三台服务器对硬件资源的要求各不相同,应用服务器需要处理大量的业务逻辑,因此需要更快更强大的CPU;数据库服务器需要快速磁盘检索和数据缓存,因此需要更快的硬盘和更大的内存;文件服务器需要储存大量用户上传的文件,因此需要更大的硬盘。

            应用和数据分离后,不同特性的服务器承担不同的服务角色,网站的并发处理能力和数据储存空间得到了很大的改善,支持网站业务进一步的发展。但是随着用户逐渐增多,网站又一次面临挑战:数据库压力太大导致访问延迟,进而影响整个网站的性能,用户体验收到影响。这是需要对网站架构进一步优化。

          1.3 使用缓存改善网站性能

         网站访问特点和显示师姐的财务分配一样遵循二八定律:80%的业务访问集中在20%的数据上。既然大部分的业务访问集中在一小部分数据上,那么如果把这一小部分数据缓存在内存中,是不是旧可以减少数据库的访问压力,提高整个网站的数据访问速度,改善数据库的写入性能呢?
         网站使用缓存可以分为两种:缓存在应用服务器上的本地缓存和缓存在专门的分布式缓存服务器上的远程缓存。本地缓存的访问速度更快一些,但是受应用服务器内存限制,其缓存数据量有限,而且会出现和应用程序争用内存的情况。远程分布式缓存可以使用集群的方式,部署大内存的服务器作为专门的缓存服务器,可以在理论上做到不受内存容量限制的缓存服务,如图1.3所示:    

        使用缓存后,数据访问压力得到有效缓解,但是单一应用服务器能够处理的请求连接有限,在网站访问高峰期,应用服务器成为整个网站的瓶颈。

          1.4 使用应用服务器集群改善网站的并发处理能力

         使用集群是网站解决高并发、海联数据问题的常用手段。当一台服务器的处理能力、储存空间不足时,不要企图去更换更强大的服务器,对大型网站而言,不管多么强大的服务器,都满足不了网站持续增长的业务需求。这种情况下,更恰当的做法是增加一台服务器分担缘由的服务器访问及储存压力。
         对网站架构而言,只要能通过增加一台服务器的方式改善负载压力,就可以以同样的方式持续增加服务器不断改善系统性能,从而实现系统的可伸缩性。应用服务器实现集群是网站可伸缩集群架构设计中较为简单成熟的一种,如图:

         

          1.5 数据库读写分离

         网站在使用缓存后,使绝大部分数据库读操作访问都可以不通过数据库就能完成,但是仍有一部分读操作(缓存访问不命中、缓存过期)和全部写操作需要访问数据库,在网站的用户达到一定规模后,数据库因为负载压力过高而成为网站的瓶颈。
         目前大部分的主流数据库都提供主从热备功能,通过配置两台数据库主从关系,可以将一台数据库服务器的数据更新同步到另一台服务器上。网站利用数据库的这一功能,实现数据库的读写分离,从而改善数据库负载压力。如图:

         应用服务器在写数据的时候,访问主数据库,主数据库通过主从复制机制将数据更新同步到从数据库,这样当应用服务器读数据的时候,就可以通过从数据库获得数据。为了便于应用程序访问读写分离后的数据库,通常在应用服务器端使用专门的服务器访问模块,是数据库读写分离对应用透明。

          1.6 使用反向代理和CDN加速网站响应

           随着网站业务不断发展,不同地区的用户访问网站时,速度差别也极大。为了提供更好的用户体验,网站需要加快访问速度。主要的手段有使用CDN和反向代理。如图1.6所示
          CDN和反向代理的基本原理都是缓存,区别在于CDN部署在网络提供商的机房,使用户在请求网站服务时,可以从距离自己最近的网络机房获取数据;而反向代理则部署在网站的中心机房,当用户请求到大中心机房后,首先访问的服务器是反向代理服务器,如果反向代理服务器中缓存这用户请求的资源,就将其直接返回给用户。

          1.7 使用分布式文件系统和分布式数据库系统

         数据库经过读写分离后,从一台服务器拆分成两台服务器,但是随着网站业务的发展依然不能满足需求,这是需要使用分布式数据库,文件系统也是一样,需要使用分布式文件系统,如图1.7所示:
          分布式数据库是网站数据拆分的最后手段,只有在单标数据规模非常庞大的时候才使用。不到不得已时,网站更常用的数据库拆分手段是业务分库,将不同业务的数据部署在不同的物理服务器上。

          1.8 使用NoSQL和搜索引擎

         随着网站业务越累越复杂,对数据存储和检索的需求也越来越复杂,网站需求采用一些非关系数据库技术如NoSQL和非数据库查询技术如搜索引擎,如图1.8所示:

         NoSQL和搜索引擎都是源自互联网的技术手段,对可伸缩的分布式特性具有更好的支持。应用服务器则通过一个统一数据访问模块访问各种数据,减轻应用程序管理诸多数据源的麻烦。

          1.9 业务拆分

         大型网站为了应对日益浮渣的业务场景,通过使用分而治之的手段将整个网站业务分成不同的产品线,如大型购物交易网站就会将首页、商铺、订单、卖家、卖家等拆分成不同的产品线,分归不同的业务团队负责。
         具体大技术上,也会根据产品线划分,将一个网站拆分成许多不同的应用,每个应用独立部署维护。应用之间可以通过一个超链接简历关系(在首页上的导航链接每个都指向不同的应用地址),也可以通过消息队列进行数据分发,当然最多的还是通过访问同一个数据存储系统来构成一个关联的完成系统。如图1.9所示:

          1.10 分布式服务

         随着业务拆分越来越小,存储系统越来越庞大,应用系统的整体复杂度呈指数级增加,部署维护越来越困难。由于所有应用要和所有数据库系统连接,在数万台服务器规模的网站中,这些连接的数目是服务器规模的平方,导致存数据库连接资源不足,拒绝服务。
         既然每一个应用系统都需要执行许多相同的业务操作,比如用户管理、商品管理等,那么可以将这些公用的业务提取出来,独立部署。由这些可复用的业务连接数据库,提供共用业务服务,而应用系统只需要管理用户界面,通过分布式服务调用共用业务服务完成具体业务操作,如图1.10所示:






























猜你喜欢

转载自blog.csdn.net/q410654146/article/details/80858903