海量、高并发场景下网站的负载均衡如何设计

什么是负载均衡，为什么要做负载均衡？

1.背景介绍

我们一般会把多台机器组成一个集群对外提供服务。然而，我们的网站对外提供的访问入口都是一个的，比如www.taobao.com。那么当用户在浏览器输入www.taobao.com的时候如何将用户的请求分发到集群中不同的机器上呢，这就是负载均衡在做的事情。

针对以上情况的解决方案：

(1) 服务器进行硬件升级：采用高性能服务器替换现有低性能服务器。 该方案的弊端：

高成本：高性能服务器价格昂贵，需要高额成本投入，而原有低性能服务器被闲置，造成资 源浪费。

可扩展性差：每一次业务量的提升，都将导致再一次硬件升级的高额成本投入，性能再卓越 的设备也无法满足当前业务量的发展趋势。

无法完全解决现在网络中面临的问题：如单点故障问题，服务器资源不够用问题等。

(2) 组建服务器集群，利用负载均衡技术在服务器集群间进行业务均衡。

该方案的优势： 低成本

可扩展性：当业务量增长时，系统可通过增加服务器来满足需求，且不影响已有业务，不降 低服务质量

高可靠性：单台服务器故障时，由负载均衡设备将后续业务转向其他服务器，不影响后续业 务提供，保证业务不中断。

负载均衡的作用：

1.解决并发压力，提高应用处理性能（增加吞吐量，加强网络处理能力）；

2.提供故障转移，实现高可用；

3.通过添加或减少服务器数量，提供网站伸缩性（扩展性）；

4.安全防护；（负载均衡设备上做一些过滤，黑白名单等处理）

负载均衡分类:

根据实现技术不同，可分为DNS负载均衡，HTTP负载均衡，IP负载均衡，反向代理负载均衡、链路层负载均衡等。

负载均衡算法:

轮询、 随机、最少链接、Hash（源地址散列）、加权

硬件负载均衡:

采用硬件的方式实现负载均衡，一般是单独的负载均衡服务器，价格昂贵，一般土豪级公司可以考虑，业界领先的有两款，F5和A10。

价格：F5， 15w~55w不等；A10， 55w-100w不等。

优点：功能全面支持各层级的负载均衡，支持全面的负载均衡算法，支持全局负载均衡。一般软件负载均衡支持到5万级并发已经很困难了，硬件负载均衡可以支持。商用硬件负载均衡稳定性高，具备防火墙，防DDOS攻击等安全功能，提供售后支持。

3.常见问题

怎么配置负载均衡？

负载均衡如何设计

服务器负载均衡(Server Load Balancing)，其原理是将工作任务相对均衡地分摊到多个节点(服务器集群)上执行，从而提升整个业务系统的性能。诸如LVS、HA Proxy等开源软件，可以在现有的网络基础架构之上建立负载均衡机制，以满足业务增长的需要，

此外，针对互联网上有可能影响数据传输的各种环节，CDN(Content Delivery Network)内容交付网络的应对方案也适时出现。CDN对网站内容的处理，通过让用户就近取得所需内容，解决 Internet网络拥挤的状况，提高用户访问网站的响应速度，同时也减轻了网站自身系统的性能压力

貌似我们已经解决了网站发布所面临的所有瓶颈了，但是实际上问题远没有那么简单。一方面，对于数据交互比较频繁的动态内容而言，CDN只能在其中心节点与源数据节点(网站自身系统)之间做有限的传输优化，加速效果远不如静态内容做缓存分发那般明显。

另一方面，随着线上业务、电子商务等领域的Web内容呈现日渐丰富，涌现出了愈发复杂的业务交付需求，因此，当我们抛开网络的传输质量、带宽拥塞程度等外界因素来看的话，又不得不正视一个问题--影响网站访问效果的最大瓶颈还是在于源数据节点自身的处理性能。

其性能瓶颈最容易出现在联机事务处理(OLTP)的环节，例如访问用户进行条目查阅、订单确认等场景。产生这种情况的原因在于，网站的运营方出于数据安全等因素的考虑，是不可能将后台数据库等资源完全向CDN服务商开放的。

单台服务器的处理能力有限，当突发访问量骤然增加的时候，其性能就会成为整个系统的瓶颈，导致用户访问的响应缓慢甚至网站服务器瘫痪。为了满足高并发量访问的需求，可以通过软件手段实现服务器集群的多机负载均衡效果

前台的Web服务器由于有外部的CDN服务作为静态内容的分流渠道，尚不至于产生明显的系统瓶颈，而后台处理动态内容的核心业务系统就难免会感到压力巨大了。通常多是利用WebLogic中间件软件自带的服务器集群功能来满足高性能需求，其中一台WebLogic Server作为管理服务器负责任务调度，实现负载均衡效果。但是，由于该服务器自身的硬件性能瓶颈，会造成整个系统的联机事务处理效率低下;而且由于WebLogic自身设计的当任务量达到一定阀值的时候，即便是升级服务器硬件性能也无法提升其进行负载均衡调度的能力。

针对上述情况，最好的办法莫过于采用硬件负载均衡设备，以解决数据流量过大、任务负荷过重所产生的系统瓶颈问题。在这一方面，业内知名的硬件厂商有F5、深信服等等。值得一提的是，深信服的应用交付产品除具有传统负载均衡功能外，其独有的单边加速技术，能够在跨运营商网络环境中，通过广域网传输文件及应用的访问时间减少30%以上，极大提高了用户体验。

虽然部署硬件设备意味着一笔额外的开支，但是它给网站的整体业务系统所带来的性能提升，却是传统的软件方案所望其项背的。除此之外，专业的硬件设备所能提供的负载调度算法和健康检查机制也更加丰富、全面，有助于进一步提升关键业务发布的稳定性和持久性，这对于高并发量的大型网站而言是极具价值的。

总结；　当然，对于不同规模、不同业务的网站而言，没有一概而论的设计标准，文中提到的技术手段都有着相应的适用场景，这就需要网站的架构师们做具体的规划了。