目录
原文出处：http://wemedia.ifeng.com/90964503/wemedia.shtml
这篇文章对负载均衡架构写的非常详细，最近正在学习这块，也在工程得到了实际应用。好文一定要转，一定要学！！！
1、原文以两个问题引出话题
问题一：DNS轮询技术是不是过时了？
问题二：有了反向代理层（如Nginx、LVS、F5等），是不是 不需要DNS轮询了？
我的回答是，DNS并未过时，并且反向代理层也不能替代DNS轮询！
问题三：Nginx与LVS支持的最大并发数大约是多少？
在高并发情况下，Nginx 可支持高达50000个并发连接数的响应。
LVS服务器集群系统具有良好的伸缩性，可支持几百万个并发连接。
2、反向代理层的作用是什么？架构实现时需要注意什么问题？
(1) 作为服务端统一入口，屏蔽后端WEB集群细节，代表整个WEB集群；
话外音：这就是为啥它叫反向代理。
(2) 保证WEB集群的扩展性，Nginx后端可随时加WEB实例；
(3) 实施负载均衡，反向代理层会将请求均匀分发给后端WEB集群的每一个实例；
(4) 保证WEB集群的高可用，任何一个WEB实例挂了，服务都不受影响；
(5) 注意自身高可用，防止一台Nginx挂了，服务端统一入口受影响。
3、反向代理还存在的问题
反向代理层自身的扩展性问题并没有得到很好的解决。但是，可以通过DNS轮询解决。
例如，当Nginx成为系统瓶颈的时候，无法扩容。
4、DNS轮询如何解决反向代理层的扩展性问题？
通过在DNS-server上对一个域名设置多个IP解析，能够增加入口Nginx实例个数，起到水平扩容的作用，解决反向代理层的扩展性问题。
因此，反向代理和DNS轮询并不是互斥的技术。然而，这里详细展开讲一下接入层的架构渐进历程。
4.1 、裸奔时代：单机架构
裸奔时代的架构图如上：
(1) 浏览器通过DNS-server，域名解析到ip；
(2) 浏览器通过ip访问web-server；
缺点：
(1) 非高可用，web-server挂了整个系统就挂了；
(2) 扩展性差，当吞吐量达到web-server上限时，无法扩容；
话外音：单机不涉及负载均衡问题。
4.2、简易扩容方案：DNS轮询
假设tomcat的吞吐量是1000次每秒，当系统总吞吐量达到3000时，如何扩容是首先要解决的问题，DNS轮询是一个很容易想到的方案。
话外音：DNS轮询解决扩展性问题。
此时的架构图如上：
(1) 多部署几份web-server，1个tomcat抗1000，部署3个tomcat就能抗3000；
(2) 在DNS-server层面，域名每次解析到不同的ip；
优点：
(1) 成本低：在DNS-server上多配几个ip即可，功能也不收费；
(2) 部署简单：多部署几个web-server即可，原系统架构不需要做任何改造，新增的Web服务器只要增加一个公网IP即可。
缺点：
(1) 健康检查：如果某台服务器宕机，DNS服务器是无法知晓的，仍旧会将访问分配到此服务器。修改DNS记录全部生效起码要3-4小时，甚至更久；
(2) 负载不均：如果几台Web服务器之间的配置不同，能够承受的压力也就不同，但是DNS解析分配的访问却是均匀分配的。其实DNS也是有分配算法的，可以根据当前连接较少的分配、可以设置Rate权重分配等等；
(3) 会话保持：如果是需要身份验证的网站，在不修改软件构架的情况下，这点是比较致命的，因为DNS解析无法将验证用户的访问持久分配到同一服务器。虽然有一定的本地DNS缓存，但是很难保证在用户访问期间，本地DNS不过期，而重新查询服务器并指向新的服务器，那么原服务器保存的用户信息是无法被带到新服务器的，而且可能要求被重新认证身份，来回切换时间长了各台服务器都保存有用户不同的信息，对服务器资源也是一种浪费。
(4) 扩容非实时：DNS解析有一个生效周期；
(3) 暴露了太多的外网ip。
“DNS轮询” 更多：负载均衡手段之DNS轮询、DNS如何实现全局负载均衡？
4.3、简易扩容方案：反向代理Nginx
tomcat的性能较差，但Nginx作为反向代理的性能就强很多，假设线上跑到1w，就比tomcat高了10倍，可以利用这个特性来做扩容。
此时的架构图如上：
(1) 站点层与浏览器层之间加入了一个反向代理层，利用高性能的Nginx来做反向代理；
(2) Nginx将http请求分发给后端多个web-server；
优点：
(1) DNS-server不需要动；
(2) 负载均衡：通过Nginx来保证；
(3) 只暴露一个外网ip，Nginx->tomcat之间使用内网访问；
(4) 扩容实时：Nginx内部可控，随时增加web-server随时实时扩容；
(5) 能够保证站点层的可用性：任何一台tomcat挂了，Nginx可以将流量迁移到其他tomcat；
话外音：反向代理，能够更实时，更方便的扩容了。
缺点：
(1) 时延增加+架构更复杂了：中间多加了一个反向代理层；
(2) 反向代理层成了单点，非高可用：tomcat挂了不影响服务，Nginx挂了怎么办？
4.4、高可用方案：keepalived
为了解决高可用的问题，keepalived出场了。
(1) 做两台Nginx组成一个集群，分别部署上keepalived，设置成相同的虚IP，保证Nginx的高可用；
(2) 当一台Nginx挂了，keepalived能够探测到，并将流量自动迁移到另一台Nginx上，整个过程对调用方透明；
优点：
(1) 解决了高可用的问题；
话外音：反向代理的高可用也解决了。
缺点：
(1) 资源利用率只有50%；
(2) Nginx仍然是接入单点，如果接入吞吐量超过的Nginx的性能上限怎么办，例如qps达到了50000咧？
4.5、scale up扩容方案：LVS/F5
Nginx是应用软件，性能比tomcat好，但总有个上限，超出了上限，还是扛不住。
LVS就不一样了，它实施在操作系统层面；F5的性能又更好了，它实施在硬件层面；它们性能比Nginx好很多，例如每秒可以抗10w，这样可以利用他们来扩容，常见的架构图如下：
(1) 如果通过Nginx可以扩展多个tomcat一样，可以通过LVS来扩展多个Nginx；
(2) 通过Keepalived+VIP的方案可以保证可用性；
99.9999%的公司到这一步基本就结束了，解决了接入层高可用、扩展性、负载均衡的问题。
话外音：上游再加一层扩充性能。
完美了嘛，还有什么潜在问题？
好吧，不管是使用lvs还是f5，这些都是scale up的方案，根本上，lvs/f5还是会有性能上限，假设每秒能处理10w的请求，一天也只能处理80亿的请求（10w秒吞吐量*8w秒），那万一系统的日PV超过80亿怎么办呢？
4.6、scale out扩容方案：DNS轮询
如之前文章所述，水平扩展，才是解决性能问题的根本方案，能够通过加机器扩充性能的方案才具备最好的扩展性。
facebook，google，baidu的PV是不是超过80亿呢，它们的域名只对应一个ip么，终点又是起点，还是得通过DNS轮询来进行扩容。
话外音：DNS轮询解决扩展性问题。
(1) 通过DNS轮询来线性扩展入口lvs层的性能；
(2) 通过keepalived来保证高可用；
(3) 通过lvs来扩展多个Nginx；
(4) 通过Nginx来做负载均衡，业务七层路由。
5、总结
稍微做一个简要的总结：
(1) 接入层架构要考虑的问题域为：高可用、扩展性、反向代理、负载均衡；
(2) Nginx、keepalived、lvs、f5可以很好的解决高可用、扩展性、反向代理、负载均衡的问题；
(3) 水平扩展scale out是解决扩展性问题的根本方案，DNS轮询是不能完全被Nginx/lvs/f5所替代的。
更多内容：
关于DNS域名解析：负载均衡之DNS域名解析、DNS原理及其解析过程、DNS原理总结及其解析过程详解