广州网站建造集团官网 老直营威尼斯网址开户
老品牌威尼斯网址开户 吾们 效劳 网站建造 移动应用 案例 报道 联系
咨询热线:13711534025

期待聆听您的声音

13711534025

不忽悠,不作恶,不欺诈;敬天理,存良知,思利他。
QQ咨询 QQ咨询 QQ咨询
广州总部 深圳 佛山 广西

与吾们一起分享美好

大型网站架构系列:负载均衡详解(上)

发布时间:2016-02-29 发布作者:老直营威尼斯网址开户 查阅次数:2067次 标签:大型网站开发 门户网站的策划

面对大量用户访问、高并发请求,海量数据,可以使用高性能的效劳器、大型数据库,存储设备,高性能Web效劳器,采取应用高效率的编程语言譬喻(Go,Scala)等,当单机容量达到极限时,吾们需要揣摩业务拆分和分布式部署,来解决大型网站访问量大,并发量高,海量数据的小case。

从单机网站到分布式网站,很要紧的相似处是业务拆分和分布式部署,将应用拆分下,部署到不同的机器上,实现大规模分布式系统。分布式和业务拆分解决了,从聚集到分布的小case,但是每个部署的独立业务还存在单点的小case和访问统一入口小case,为解决单点易于 障,吾们可以采取冗余的方式。将同样的应用部署到多台机器上。解决访问统一入口小case,吾们可以在集群上面增加负载均衡设备,实现流量分发。

负载均衡(Load Balance),意思是将负载(work任务,访问请求)进行平衡、分摊到多个操作单圆(效劳器,组件)上进行执行。是解决高性能,单点易于 障(高可用),扩展性(水平伸缩)的终极解决Plan。

本文是负载均衡详解的第一篇文章,介绍负载均衡的原理,负载均衡分类(DNS负载均衡,HTTP负载均衡,IP负载均衡,链路层负载均衡,混合型P负载均衡)。部分始末摘自读书笔记。

本次分享大纲

  1. 负载均衡原理
  2. DNS负载均衡
  3. HTTP负载均衡
  4. IP负载均衡
  5. 链路层负载均衡
  6. 混合型P负载均衡

一、负载均衡原理

系统的扩展可分为纵向(垂直)扩展和横向(水平)扩展。纵向扩展,是从单机的角度通过增加硬件处理能力,譬喻CPU处理能力,内存容量,磁盘等关键,实现效劳器处理能力的提升,不能满足大型分布式系统(网站),大流量,高并发,海量数据的小case。易于 需要采取应用横向扩展的方式,通过添加机器来满足大型网站效劳的处理能力。

譬喻:一台机器不能满足,则增加两台或者多台机器,共同承担访问压力。


  • 应用集群:将同一应用部署到多台机器上,组成处理集群,接收负载均衡设备分发的请求,进行处理,并返回相应数据。
  • 负载均衡设备:将用户访问的请求,按照负载均衡算法,分发到集群中的一台处理效劳器。(一种把网络请求分散到一个效劳器集群中的可用效劳器上去的设备)

负载均衡的感化(解决的小case):

1.解决并发压力,提高应用处理性能(增加吞吐量,加强网络处理能力);

2.供给易于 障转移,实现高可用;

3.通过添加或减少效劳器数量,供给网站伸缩性(扩展性);

4.安全防护;(负载均衡设备上做一些过滤,黑白名单等处理)

二、负载均衡分类

按照实现 技术实现 不同,可分为DNS负载均衡,HTTP负载均衡,IP负载均衡,链路层负载均衡等。

2.1DNS负载均衡

最早的负载均衡 技术实现 ,利用域名解析实现负载均衡,在DNS效劳器,配置多个A记录,这些A记录对应的效劳器构成集群。大型网站总是部分使用DNS解析,作为第一级负载均衡。

优点

  1. 使用easy:负载均衡work,交给DNS效劳器处理,省掉了负载均衡效劳器维护的麻烦
  2. 提高性能:可以支持基于地址的域名解析,解析成跨距用户最近的效劳器地址,可以加快访问速度,改善性能;

缺点

  1. 可用性差:DNS解析是多级解析,新增/修改DNS下,解析时间较长;解析过程中,用户访问网站将失败;
  2. 扩展性低:DNS负载均衡的把握权在域名商那里,无法对其做更好优质的改善和扩展;
  3. 维护性差:也不能反映效劳器的当上运行状态;支持的算法少;不能区分效劳器的异议(不能按照系统与效劳的状态来判断负载)

实践倡议

将DNS作为第一级负载均衡,A记录对应着内部负载均衡的IP地址,通过内部负载均衡将请求分发到真实的Web效劳器上。一般用于互联网集团官网,复杂的业务系统不合适使用。


1.3  IP负载均衡

在网络层通过修改请求倾向地址进行负载均衡。

用户请求数据包,到达负载均衡效劳器下,负载均衡效劳器在操作系统内核进程获取网络数据包,按照负载均衡算法得到一台真实效劳器地址,然下将请求鹄的地址修改为,获得的真实ip地址,不需要经过用户进程处理。

真实效劳器处理完成下,响应数据包回到负载均衡效劳器,负载均衡效劳器,再将数据包源地址修改为自身的ip地址,发送给用户浏览器。


IP负载均衡,真实物理效劳器返回给负载均衡效劳器,存在两种方式:

(1)负载均衡效劳器在修改鹄的ip地址的再是修改源地址。将数据包源地址设为自身盘,即源地址转换(snat)。

(2)将负载均衡效劳器再是作为真实物理效劳器集群的网关效劳器。

优点:

(1)在内核进程完成数据分发,比在应用层分发性能更好;

缺点:

(2)一切请求响应都需要经过负载均衡效劳器,集群较小吞吐量受限于负载均衡效劳器网卡带宽;

 

2.4链路层负载均衡

在通信协议的数据链路层修改mac地址,进行负载均衡。

数据分发时,不修改ip地址,指修改倾向mac地址,配置真实物理效劳器集群一切机器虚拟ip和负载均衡效劳器ip地址一致,达到不修改数据包的源地址和倾向地址,进行数据分发的鹄的。

实际处理效劳器ip和数据请求鹄的ip一致,不需要经过负载均衡效劳器进行地址转换,可将响应数据包直接返回给用户浏览器,避免负载均衡效劳器网卡带宽成为瓶颈。也称为直接路由模式(DR模式)。


优点:性能好;

缺点:配置复杂;

实践倡议:DR模式是目上使用最广泛的一种负载均衡方式。

2.5混合型负载均衡

由于多个效劳器群内硬件设备、各自的规模、供给的效劳等的异议,可以揣摩给每个效劳器群采取应用最合适的负载均衡方式,然下又在这多个效劳器群间再一次负载均衡或群集起来以一个整体向外界供给效劳(即把这多个效劳器群当做一个新的效劳器群),易于 达到最佳的性能。将这种方式称之为混合型负载均衡。

此种方式有时也用于单台均衡设备的性能不能满足大量连接请求的环境下。是目上大型互联网集团官网,普遍使用的方式。

方式一,如下图:

大型网站架构 网站架构优化 网站优化 网站架构

如该模式适合有动静分离的场景,反向代理效劳器(集群)可以起到缓存和消息 请求分发的感化,当时静态资源缓存在代理效劳器时,则直接返回到浏览器。如果消息 页面则请求下面的应用负载均衡(应用集群)。

方式二,如下图:

大型网站架构 网站架构优化 网站优化 网站架构

如该模式,适合消息 请求场景。

因混合模式,可以按照具体场景,灵活搭配各种方式,如该两种方式仅供参考。

三、负载均衡算法

常用的负载均衡算法有,轮询,随机,最少链接,源地址散列,加权等方式;

3.1 轮询

将一切请求,依次分发到每台效劳器上,适合效劳器硬件同同样的场景。

优点:效劳器请求数目同样;

缺点:效劳器压力不一样,不适合效劳器配置不同的环境;

3.2 随机

请求随机分配到各个效劳器。

优点:使用easy;

缺点:不适合机器配置不同的场景;

3.3 最少链接

将请求分配到连接数最少的效劳器(目上处理请求最少的效劳器)。

优点:按照效劳器当上的请求处理环境,消息 分配;

缺点:算法实现相对复杂,需要监控效劳器请求连接数;

3.4 Hash(源地址散列)

按照IP地址进行Hash计算,得到IP地址。

优点:将来自同一IP地址的请求,同一会话期内,转发到同样的效劳器;实现会话粘滞。

缺点:倾向效劳器宕机下,会话会丢失;

3.5 加权

在轮询,随机,最少链接,Hash’等算法的底子上,通过加权的方式,进行负载效劳器分配。

优点:按照权重,调节转发效劳器的请求数目;

缺点:使用相对复杂;

四、硬件负载均衡

采取应用硬件的方式实现负载均衡,一般是单独的负载均衡效劳器,Price昂贵,一般土豪级集团官网可以揣摩,业界领先的有两款,F5和A10。

使用硬件负载均衡,主要揣摩一下几个关键:

(1)功能揣摩:功能全面支持各层级的负载均衡,支持全面的负载均衡算法,支持全局负载均衡;

(2)性能揣摩:一般软件负载均衡支持到5万级并发已经很困难了,硬件负载均衡可以支持

(3)稳定性:商用硬件负载均衡,经过了良好的严格的测试,从经过大规模使用,在稳定性关键高;

(4)安全防护:硬件均衡设备除具备负载均衡功能外,还具备防火墙,防DDOS攻击等安全功能;

(5)维护角度:供给良好的维护管理界面,售下效劳和 技术实现 支持;

(6)土豪集团官网:F5 Big Ip Price:15w~55w不等;A10 Price:55w-100w不等;

缺点

(1)Price昂贵;

(2)扩展能力差;

4.4小结

(1)一般硬件的负载均衡也要做双机高可用,易于 底会比较高。

(2)互联网集团官网一般使用开源软件,易于 大部分应用采取应用软件负载均衡;部分采取应用硬件负载均衡。

譬喻某互联网集团官网,目上是使用几台F5做全局负载均衡,内部使用Nginx等软件负载均衡。


    下一篇:《大型网站架构系列:负载均衡详解(下)》

5个主流的HTML5开发工具

大型网站架构系列:负载均衡详解(下)

吾们的地位

广州 广州市天河区岗顶百脑汇高技术大厦B塔27楼 020-6235 2949

深圳 深圳市南山区汉京万国大厦18A 159 8916 9178

广西 茂名市茂南区油城三路广西创业创新孵化基地B110 159 8916 9178

吾们的效劳

网站及移动应用 牛逼直营网站 APP开发 小程序开发 WeChat运营

系统应用开发 OA/ERP/CRM/HR系统开发 教学管理系统 电商系统 应用型软件系统定制开发

了解吾们

集团官网简介 联系吾们 吾们的案例 讯息报道

使用条款 隐私声明 Cookies

© 2009-2020 老直营威尼斯网址开户 版权一切 广ICP备16051058号

XML 地图 | Sitemap 地图