Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >lvs的调度详解

lvs的调度详解

原创
作者头像
陈不成i
修改于 2021-08-02 09:42:45
修改于 2021-08-02 09:42:45
8820
举报
文章被收录于专栏:ops技术分享ops技术分享

负载调度

简介

在Lvs进行负载均衡选择后端RS(真实服务器)的时候,可以根据策略进行动态选择。当前有十种负载均衡算法。

固定调度算法

按照某种既定的算法,不考虑实时的连接数予以分配。

轮询调度(Round Robin) 轮询调度会按顺序挨个将请求分配到后端集群中,而不管RS的负载和性能情况。如果有A,B,C三台RS,那会按顺序转发到A,B,C上面,第四个请求就又发到A上面了。

加权轮询(Weighted Round Robin) “加权轮询”调度算法是根据RS的不同处理能力来调度访问请求。可以对每台RS设置不同的调度权值。对于性能相对较好的RS可以设置较高的权值,而对于处理能力较弱的RS可以设置较低的权值,这样保证了处理能力强的服务器处理更多的访问流量。充分合理的利用了服务器资源。同时,调度器还可以自动查询RS的负载情况,并动态地调整其权值。

目标地址散列(Destination Hashing) 来自于同一个IP地址的请求都被重定向到同一台Real Server上(保证目标地址不变)。

先根据请求的目标IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且并未超载,将请求发送到该服务器,否则返回空。

源地址散列(Source Hashing) Director必须确保响应的数据包必须通过请求数据包所经过的路由器或者防火墙(保证原地址不变)。

先根据请求的源IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且并未超载,将请求发送到该服务器,否则返回空。它采用的散列函数与目标地址散列调度算法的相同,它的算法流程与目标地址散列调度算法的基本相似。

使用SH算法,SH算法在内核中会自动维护一个哈希表,此哈希表中用每一个请求的源IP地址经过哈希计算得出的值作为键,把请求所到达的RS的地址作为值。在后面的请求中,每一个请求会先经过此哈希表,如果请求在此哈希表中有键值,那么直接定向至特定Real Server,如没有,则会新生成一个键值,以便后续请求的定向。但是此种方法在时间的记录上比较模糊(依据TCP的连接时长计算),而且其是算法本身,所以无法与算法分离,并不是特别理想的方法。

动态调度算法

通过检查服务器上当前连接的活动状态来重新决定下一步调度方式该如何实现。

最少链接(Least Connections) “最少连接”调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能,采用“最小连接”调度算法可以较好地均衡负载。

算法:连接数=活动连接数*256+非活动连接数

加权最少链接(Weighted Least Connections) 在最少连接的基础上给每台Real Server分配一个权重。

“加权最少链接”是“最少连接调度”的超集,每个服务节点可以用相应的权值表示其处理能力,而系统管理员可以动态的设置相应的权值,缺省权值为1,加权最小连接调度在分配新连接请求时尽可能使服务节点的已建立连接数和其权值成正比。

算法:连接数=(活动连接数*256+非活动连接数)÷权重

基于局部性的最少链接(Locality-Based Least Connections) 针对请求报文的目标IP地址的负载均衡调度,简称LBLC。目前主要用于Cache集群系统,因为在Cache集群客户请求报文的目标IP地址是变化的。

这里假设任何后端服务器都可以处理任一请求,算法的设计目标是在服务器的负载基本平衡情况下,将相同目标IP地址的请求调度到同一台服务器,来提高各台服务器的访问局部性和Cache命中率,从而提升整个集群系统的处理能力。

先根据请求的目标IP地址找出该目标IP地址最近使用的服务器,若该服务器是可用的且没有超载,将请求发送到该服务器;若服务器不存在,或者该服务器超载且有服务器处于一半的工作负载,则使用’最少连接’的原则选出一个可用的服务器,将请求发送到服务器。

带复制的基于局部性最少链接(Locality-Based Least Connections with Replication) 也是针对目标IP地址的负载均衡,目前主要用于Cache集群系统,它与LBLC不同之处是它要维护从一个目标IP地址到一组服务器的映射,而LBLC算法维护从一个目标IP地址到一台服务器的映射。

按’最小连接’原则从该服务器组中选出一台服务器,若服务器没有超载,将请求发送到该服务器;若服务器超载,则按’最小连接’原则从整个集群中选出一台服务器,将该服务器加入到这个服务器组中,将请求发送到该服务器。同时,当该服务器组有一段时间没有被修改,将最忙的服务器从服务器组中删除,以降低复制的程度

最短的期望的延迟(Shortest Expected Delay) 不再考虑非活动连接数

基于加权最少链接算法,举个例子,ABC三台服务器的权重分别为1、2、3 ,那么如果使用加权最少链接的话一个新请求进入时它可能会分给ABC中的任意一个。

算法:连接数=(活动连接数+1) *256 ÷权重

最少队列调度(Never Queue) 对SED的改进,当新请求过来的时候不仅要取决于SED算法所得到的值,还要取决于Real Server上是否有活动连接。

特点

优点:

  • 抗负载能力强、是工作在网络4层之上仅作分发之用,没有流量的产生,这个特点也决定了它在负载均衡软件里的性能最强的,对内存和cpu资源消耗比较低。
  • 工作稳定,因为其本身抗负载能力很强,自身有完整的双机热备方案。
  • 无流量,LVS只分发请求,而流量并不从它本身出去,这点保证了均衡器IO的性能不会受到大流量的影响。
  • 工作在四层,可以对所有应用进行负载均衡,包括Web、数据库

缺点:

  • 软件本身不支持正则表达式处理,不能做动静分离
  • 如果是网站应用比较庞大,配置和测试就会很复杂,需要很长时间。
  • 对网络依赖比较大,需要稳定的网络环境

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
LVS原理知多少?
LVS简介   Internet的快速增长使多媒体网络服务器面对的访问数量快速增加,服务器需要具备提供大量并发访问服务的能力,因此对于大负载的服务器来讲, CPU、I/O处理能力很快会成为瓶颈。由于单台服务器的性能总是有限的,简单的提高硬件性能并不能真正解决这个问题。为此,必须采用多服务器和负载均衡技术才能满足大量并发访问的需要。Linux 虚拟服务器(Linux Virtual Servers,LVS) 使用负载均衡技术将多台服务器组成一个虚拟服务器。它为适应快速增长的网络访问需求提供了一个负载能力易于扩
小小科
2018/05/03
2.9K0
LVS原理知多少?
LVS-4.负载调度
三种IP负载均衡技术解决了系统的可伸缩性和透明性。如何通过负载调度器将请求高 效地分发到不同的服务器执行,使得由多台独立计算机组成的集群系统成为一台虚拟服务器;客户端应用程序与集群系统交互时,就像与一台高性能的服务器交互一 样。 负载调度器上的负载调度策略和算法,解决如何将请求流调度到各台服务器,使得各台服务器尽可能地保持负载均衡。 以下主要由两个部分组 成。第一部分描述IP负载均衡软件IPVS在内核中所实现的各种连接调度算法;第二部分给出一个动态反馈负载均衡算法(Dynamic-feedback load balancing),它结合内核中的加权连接调度算法,根据动态反馈回来的负载信息来调整服务器的权值,来进一步避免服务器间的负载不平衡。
悠扬前奏
2019/05/30
4610
Linux服务器集群LVS
本文主要介绍了Linux服务器集群系统–LVS(linux Virtual Server),并简单描述下LVS集群的基本应用的体系结构以及LVS的三种IP负载均衡模型(VS/NAT、VS/DR和VS/TUN)的工作原理,以及它们的优缺点和LVS集群的IP负载均衡软件IPVS在内核中实现的各种连接调度算法。 参考文献 http://www.linuxvirtualserver.org/zh/index.html
botkenni
2022/01/10
2.5K0
Linux服务器集群LVS
认识LVS集群
​LVS(linux virtual server)即linux虚拟服务器,由章文嵩博士主导开发的开源负载均衡项目,从2.6内核开始已经被集成到linux内核模块中了,该项目在linux内核中实现了基于IP的数据请求负载均衡调度方案,终端互联网用户从外部访问公司的外部负载均衡服务器,终端用户的web请求会发送给LVS调度器,调度器根据自己预设的算法决定将该请求发送给后端的某台web服务器,如果后端的所有web服务器存储的内容时相同的,那么用户不管访问哪台真实的web服务器得到的内容也都是相同的,所以整个集群对于用户而言是透明的。最后根据工作模式不同,真实服务器会选择不同的方式将用户需要的数据发送给终端用户。
星哥玩云
2022/09/15
6720
认识LVS集群
最全面最简洁的 LVS负载均衡(LVS简介、三种工作模式、十种调度算法)
       LVS(Linux Virtual Server)即Linux虚拟服务器,是由章文嵩博士主导的开源负载均衡项目,目前LVS已经被集成到Linux内核模块中。该项目在Linux内核中实现了基于IP的数据请求负载均衡调度方案,其体系结构如图1所示,终端互联网用户从外部访问公司的外部负载均衡服务器,终端用户的Web请求会发送给LVS调度器,调度器根据自己预设的算法决定将该请求发送给后端的某台Web服务器,比如,轮询算法可以将外部的请求平均分发给后端的所有服务器,终端用户访问LVS调度器虽然会被转发到后端真实的服务器,但如果真实服务器连接的是相同的存储,提供的服务也是相同的服务,最终用户不管是访问哪台真实服务器,得到的服务内容都是一样的,整个集群对用户而言都是透明的。最后根据LVS工作模式的不同,真实服务器会选择不同的方式将用户需要的数据发送到终端用户,LVS工作模式分为NAT模式、TUN模式、以及DR模式。
hugo_lei
2021/08/16
5440
LVS-1.概述
通过高性能网络或局域网互联的服务器集群正成为实现高可伸缩的、高可用网络服务的有效结构。
悠扬前奏
2019/05/31
5270
LVS支持哪些调度算法?
1.轮叫调度(Round Robin) 调度器通过“轮叫”调度算法将外部请求按顺序轮流分配到集群中的真实服务器上,它均等地对待每一台服务器,而不管服务器上实际的连接数和系统负载。大锅饭调度:rr - 纯轮询方式,比较垃圾。把每项请求按顺序在真正服务器中分派
Bug开发工程师
2019/05/05
1.1K0
LVS集群的负载调度
1. 前言 本文将主要讲述在负载调度器上的负载调度策略和算法,如何将请求流调度到各台服务器,使得各台服务器尽可能地保持负载均衡。文章主要由两个部分组 成。第一部分描述IP负载均衡软件IPVS在内核中所实现的各种连接调度算法;第二部分给出一个动态反馈负载均衡算法(Dynamic-feedback load balancing),它结合内核中的加权连接调度算法,根据动态反馈回来的负载信息来调整服务器的权值,来进一步避免服务器间的负载不平衡。 在下面描述中,我们称客户的socket和服务器的socket之间的
用户1263954
2018/01/30
8970
LVS集群的负载调度
负载均衡集群LVS-Linux Virtual Server-02
由于HTTP是一种无状态协议,每次请求完毕之后就立即断开了,当用户浏览购物网站挑选商品的时候,看到一件商品加入购物车,此过程被重定向到了REALSERVER1上面来,当把第二件商品加入购物车又被重定向到了REALSERVER2上面,最后结账的时候在REALSERVER2上面,只有一件商品,这显然是用户无法接受的,此时就需要一种持久连接机制,来把同一用户的HTTP请求在超时时间内都重定向到同一台REALSERVER,超时时间可以自己定义,比如说2个小时,在超时时间内服务器会不断追踪用户的访问请求,把某一用户的所有请求都转发到同一台REALSERVER上面
用户8639654
2021/07/14
4750
LVS原理与实现 - 原理篇
LVS,全称 Linux Virtual Server,是章文嵩博士发起的一个开源项目。在社区具有很大的热度,是一个基于四层、性能极高的反向代理服务器。至于什么是反向代理,这里就不作详细介绍了,如果不了解可以先去阅读反向代理相关的资料。
用户7686797
2021/01/28
7710
LVS原理与实现 - 原理篇
linux学习第五十八篇: 负载均衡集群介绍,LVS介绍,LVS的调度算法,LVS NAT模式搭建
负载均衡集群介绍 主流开源软件LVS、keepalived、haproxy、nginx等 其中LVS属于4层(网络OSI 7层模型),nginx属于7层,haproxy既可以认为是4层,也可以当做7层使用 keepalived的负载均衡功能其实就是lvs lvs这种4层的负载均衡是可以分发除80外的其他端口通信的,比如MySQL的,而nginx仅仅支持http,https,mail,haproxy也支持MySQL这种 相比较来说,LVS这种4层的更稳定,能承受更多的请求,而nginx这种7层的更加灵活,能实
用户1215343
2018/02/05
1.3K0
linux学习第五十八篇: 负载均衡集群介绍,LVS介绍,LVS的调度算法,LVS NAT模式搭建
001.LVS简介及算法
LVS是linux virtual server的简写linux虚拟服务器,是一个虚拟的服务器集群系统,可以再unix/linux平台下实现负载均衡集群功能。
木二
2019/07/26
6170
Linux下部署搭建Keepalived+LVS负载均衡实战
    LVS(Linux Virtual Server),也就是Linux虚拟服务器, 是一个自由软件项目。使用LVS技术要达到的目标是:通过LVS提供的负载均衡技术和Linux操作系统实现一个高性能、高可用的服务器群集,它具有良好可靠性、可扩展性和可操作性。从而以低廉的成本实现最优的服务性能。
星哥玩云
2022/07/24
1.3K0
Linux下部署搭建Keepalived+LVS负载均衡实战
LVS 三种负载均衡模式详解
LVS 介绍: 主流开源软件LVS、keepalived、haproxy、nginx等 其中LVS属于4层(网络OSI 7层模型),nginx属于7层,haproxy既可以认为是4层,也可以当做7层使用 keepalived的负载均衡功能其实就是内嵌了lvs的功能。 lvs这种4层的负载均衡是可以分发除80外的其他端口通信的,比如MySQL的,而nginx仅仅支持http,https,mail,haproxy也支持MySQL这种 相比较来说,LVS这种4层的更稳定,能承受更多的请求,而nginx这种7层的更
老七Linux
2018/05/09
1.7K0
浅谈LVS
集群(cluster),从字面上就知道,集与群都是多的概念。集群就是多台机器组合在一起共同完成一个需求。
若与
2018/08/03
7020
浅谈LVS
高薪Linux必备之高并发场景 LVS 简快入门实战(万字长文)
随着移动互联网的加速,应用大规模同时使用的情况成为了常态,如微博、知乎、今日头条等大型应用,作为Linux运维从业者,高并发场景的解决能力成为了高薪的关键。 今天我们特别邀请了资深的Linux运维老司机惨绿少年Linux来给大家普及高并发场景 LVS的实现过程,助你高薪之路顺畅。 作者:惨绿少年Linux,马哥Linux原创作者社群特约作者,资深Linux运维工程师,作者博客:www.nmtui.com,擅长虚拟化、OpenStack等前沿技术。 1.1 负载均衡介绍 ---- 1.1.1 负载均衡的
小小科
2018/05/04
1.3K0
高薪Linux必备之高并发场景 LVS 简快入门实战(万字长文)
LVS+Keepalived+Nginx负载均衡搭建测试
      LVS(Linux Virtual Server),也就是Linux虚拟服务器, 是一个由章文嵩博士发起的自由软件项目。使用LVS技术要达到的目标是:通过LVS提供的负载均衡技术和Linux操作系统实现一个高性能、高可用的服务器群集,它具有良好可靠性、可扩展性和可操作性。从而以低廉的成本实现最优的服务性能。
loong576
2019/09/10
2.3K0
LVS+Keepalived+Nginx负载均衡搭建测试
lvs、nginx、HAProxy、keepalive工作原理
1. lvs、nginx、HAProxy、keepalive工作原理 1.1. 前言 遇到了负载均衡和高可用选型问题,我觉的有必要好好理解下lvs,nginx,haproxy和keepalive的区别和联系 LVS、Nginx、HAProxy 是目前使用最广泛的三种软件负载均衡软件。 一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的应用需求还得具体分析,如果是中小型的 Web 应用,比如日 PV 小于1000万,用 Nginx 就完全可以了;如果机器不少,可以用 DN
老梁
2019/09/10
2.7K0
lvs、nginx、HAProxy、keepalive工作原理
负载均衡技术小记
4 层的负载均衡更偏向底层能力的转发,相对于 7 层负载均衡,负载性能更好。7 层负载均衡能做更细微粒度的负载决策。
Cloud-Cloudys
2020/09/21
6630
Lvs原理及实践
LB集群的架构和原理很简单,就是当用户的请求过来时,会直接分发到Director Server上,然后它把用户的请求根据设置好的调度算法,智能均衡地分发到后端真正服务器(real server)上。为了避免不同机器上用户请求得到的数据不一样,需要用到了共享存储,这样保证所有用户请求的数据是一样的。
mikelLam
2022/10/31
6420
Lvs原理及实践
相关推荐
LVS原理知多少?
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档