单台服务器上的网站数量：优化性能的最佳选择 (单台服务器上多个服务负载均衡)

---

负载均衡是什么，有什么作用

负载均衡，即Load Balancing，是将网络流量或任务分配到多台服务器，以减轻单台服务器的负载，提高服务的可用性和性能。

它扮演“流量指挥官”的角色，负责将客户端请求路由至所有能满足需求的服务器，同时优化速度和容量使用，确保无服务器过载，避免性能下降。

一旦有服务器故障，负载均衡器会自动将流量转移到其他在线服务器。

当新增服务器时，负载均衡器会自动向其发送请求。

负载均衡器执行的主要功能包括：高效分配客户端请求或网络负载到多台服务器仅将请求发送至在线服务器，确保高可用性和可靠性提供按需增减服务器的灵活性不同负载均衡算法提供不同优势，选择方法取决于需求：1. 轮询调度：顺序分发请求至服务器组2. 最少连接：向当前客户端连接数最少的服务器发送新请求，考虑每台服务器的相对计算能力3. 最短时间：通过公式选择最快响应时间和最少活动连接数的服务器4. 哈希：根据定义的密钥分配请求，如客户端 IP 地址或请求 URL，可选择应用一致的哈希以最小化负载再分配5. IP 哈希：使用客户端的 IP 地址确定接收请求的服务器6. 两次随机选择：随机选择两台服务器，应用最少连接算法选择负载均衡的作用包括：1. 提高系统可用性：当某服务器故障时，负载均衡自动将请求切换到其他服务器，确保系统连续性和稳定性2. 提高系统性能：均衡分配请求到多台服务器，有效减轻单台服务器压力，提高处理能力与响应速度3. 提高系统可扩展性：通过添加新服务器横向扩展，负载均衡自动分发请求到新服务器，支持系统扩展现代高流量网站需要满足数十万甚至数百万并发请求，快速、可靠地返回数据。

负载均衡技术通过添加更多服务器进行经济高效扩展。

用户可自行配置负载均衡服务器，但需要根据官方文档安装和设置参数，包括监听端口、后端服务器、负载均衡算法等。

选择SCDN则可一键配置负载均衡，提供轮询、权重、IP哈希和URL哈希等模式，简化配置过程。

负载均衡不仅提升系统性能，支持智能路由和版本管理，优化服务体验。

此外，负载均衡也适用于网络设备和服务器，扩展设备带宽和吞吐量，增强数据处理能力和网络灵活性。

多台服务器负载均衡，怎么选择？

一般用的就用简单的轮询就好了调度算法 静态方法：仅根据算法本身实现调度；实现起点公平，不管服务器当前处理多少请求，分配的数量一致动态方法：根据算法及后端RS当前的负载状况实现调度；不管以前分了多少，只看分配的结果是不是公平静态调度算法(static Schedu)（4种）:(1)rr (Round Robin) :轮叫,轮询说明：轮询调度算法的原理是每一次把来自用户的请求轮流分配给内部中的服务器，从1开始，直到N(内部服务器个数)，然后重新开始循环。

算法的优点是其简洁性，它无需记录当前所有连接的状态，所以它是一种无状态调度。

缺点：是不考虑每台服务器的处理能力。

(2)wrr (Weight Round Robin) :加权轮询(以权重之间的比例实现在各主机之间进行调度)说明：由于每台服务器的配置、安装的业务应用等不同，其处理能力会不一样。

所以，我们根据服务器的不同处理能力，给每个服务器分配不同的权值，使其能够接受相应权值数的服务请求。

(3)sh(Source Hashing) : 源地址hash实现会话绑定sessionaffinity说明：简单的说就是有将同一客户端的请求发给同一个real server,源地址散列调度算法正好与目标地址散列调度算法相反，它根据请求的源IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的并且没有超负荷，将请求发送到该服务器，否则返回空。

它采用的散列函数与目标地址散列调度算法的相同。

它的算法流程与目标地址散列调度算法的基本相似，除了将请求的目标IP地址换成请求的源IP地址。

(4)dh : (Destination Hashing) : 目标地址hash说明：将同样的请求发送给同一个server,一般用于缓存服务器，简单的说，LB集群后面又加了一层，在LB与realserver之间加了一层缓存服务器，当一个客户端请求一个页面时,LB发给cache1,当第二个客户端请求同样的页面时，LB还是发给cache1,这就是我们所说的，将同样的请求发给同一个server,来提高缓存的命中率。

目标地址散列调度算法也是针对目标IP地址的负载均衡，它是一种静态映射算法，通过一个散列（Hash）函数将一个目标IP地址映射到一台服务器。

目标地址散列调度算法先根据请求的目标IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。

动态调度算法(dynamic Schedu)（6种）:(1)lc (Least-Connection Scheduling): 最少连接 说明：最少连接调度算法是把新的连接请求分配到当前连接数最小的服务器，最小连接调度是一种动态调度短算法，它通过服务器当前所活跃的连接数来估计服务器的负载均衡，调度器需要记录各个服务器已建立连接的数目，当一个请求被调度到某台服务器，其连接数加1，当连接中止或超时，其连接数减一，在系统实现时，我们也引入当服务器的权值为0时，表示该服务器不可用而不被调度。

此算法忽略了服务器的性能问题，有的服务器性能好，有的服务器性能差，通过加权重来区分性能，所以有了下面算法wlc。

简单算法：active*256+inactive (谁的小，挑谁)(2)wlc (Weighted Least-Connection Scheduling):加权最少连接加权最小连接调度算法是最小连接调度的超集，各个服务器用相应的权值表示其处理性能。

服务器的缺省权值为1，系统管理员可以动态地设置服务器的权限，加权最小连接调度在调度新连接时尽可能使服务器的已建立连接数和其权值成比例。

由于服务器的性能不同，我们给性能相对好的服务器，加大权重，即会接收到更多的请求。

简单算法：（active*256+inactive）/weight（谁的小，挑谁）(3)sed (shortest expected delay scheduling):最少期望延迟说明：不考虑非活动连接，谁的权重大，我们优先选择权重大的服务器来接收请求，但会出现问题，就是权重比较大的服务器会很忙，但权重相对较小的服务器很闲，甚至会接收不到请求，所以便有了下面的算法nq。

基于wlc算法，简单算法：（active+1)*256/weight （谁的小选谁）(4) (Never Queue Scheduling): 永不排队 说明：在上面我们说明了，由于某台服务器的权重较小，比较空闲，甚至接收不到请求，而权重大的服务器会很忙，所此算法是sed改进，就是说不管你的权重多大都会被分配到请求。

简单说，无需队列，如果有台real server的连接数为0就直接分配过去，不需要在进行sed运算。

(5)(Locality-Based Least Connections) :基于局部性的最少连接说明：基于局部性的最少连接算法是针对请求报文的目标IP地址的负载均衡调度，主要用于Cache集群系统，因为Cache集群中客户请求报文的目标IP地址是变化的，这里假设任何后端服务器都可以处理任何请求，算法的设计目标在服务器的负载基本平衡的情况下，将相同的目标IP地址的请求调度到同一个台服务器，来提高服务器的访问局部性和主存Cache命中率，从而调整整个集群系统的处理能力。

(6)(Locality-Based Least Connections with Replication) :基于局部性的带复制功能的最少连接 说明：基于局部性的带复制功能的最少连接调度算法也是针对目标IP地址的负载均衡，该算法根据请求的目标IP地址找出该目标IP地 址对应的服务器组，按“最小连接”原则从服务器组中选出一台服务器，若服务器没有超载，将请求发送到该服务器；若服务器超载，则按“最小连接”原则从这个集群中选出一台服务器，将该服务器加入到服务器组中，将请求发送到该服务器。

同时，当该服务器组有一段时间没有被修改，将最忙的服务器从服务器组中删除， 以降低复制的程度。

如何使得Linux服务器下多网卡负载均衡

如何使得Linux服务器下多网卡负载均衡？

◆应用服务器的负载均衡技术如果将客户端的负载均衡层移植到某一个中间平台，形成三层结构，则客户端应用可以不需要做特殊的修改，透明的通过中间层应用服务器将请求均衡到相应的服务结点。

比较常见的实现手段就是反向代理技术。

使用反向代理服务器，可以将请求均匀转发给多台服务器，或者直接将缓存的数据返回客户端，这样的加速模式在一定程度上可以提升静态网页的访问速度，从而达到负载均衡的目的。

使用反向代理的好处是，可以将负载均衡和代理服务器的高速缓存技术结合在一起，提供有益的性能。

然而它本身也存在一些问题，首先就是必须为每一种服务都专门开发一个反向代理服务器，这就不是一个轻松的任务。

反向代理服务器本身虽然可以达到很高效率，但是针对每一次代理，代理服务器就必须维护两个连接，一个对外的连接，一个对内的连接，因此对于特别高的连接请求，代理服务器的负载也就非常之大。

反向代理能够执行针对应用协议而优化的负载均衡策略，每次仅访问最空闲的内部服务器来提供服务。

但是随着并发连接数量的增加，代理服务器本身的负载也变得非常大，最后反向代理服务器本身会成为服务的瓶颈。

◆基于域名系统的负载均衡NCSA的可扩展Web是最早使用动态DNS轮询技术的web系统。

在DNS中为多个地址配置同一个名字，因而查询这个名字的客户机将得到其中一个地址，从而使得不同的客户访问不同的服务器，达到负载均衡的目的。

在很多知名的web站点都使用了这个技术：包括早期的yahoo站点、163等。

动态DNS轮询实现起来简单，无需复杂的配置和管理，一般支持bind8.2以上的类unix系统都能够运行，因此广为使用。

DNS负载均衡是一种简单而有效的方法，但是存在不少问题。

首先域名服务器无法知道服务结点是否有效，如果服务结点失效，余名系统依然会将域名解析到该节点上，造成用户访问失效。

其次，由于DNS的数据刷新时间TTL（Time to LIVE）标志，一旦超过这个TTL，其他DNS服务器就需要和这个服务器交互，以重新获得地址数据，就有可能获得不同IP地址。

因此为了使地址能随机分配，就应使TTL尽量短，不同地方的DNS服务器能更新对应的地址，达到随机获得地址。

然而将TTL设置得过短，将使DNS流量大增，而造成额外的网络问题。

最后，它不能区分服务器的差异，也不能反映服务器的当前运行状态。

当使用DNS负载均衡的时候，必须尽量保证不同的客户计算机能均匀获得不同的地址。

例如，用户A可能只是浏览几个网页，而用户B可能进行着大量的下载，由于域名系统没有合适的负载策略，仅仅是简单的轮流均衡，很容易将用户A的请求发往负载轻的站点，而将B的请求发往负载已经很重的站点。

因此，在动态平衡特性上，动态DNS轮询的效果并不理想。

◆高层协议内容交换技术除了上述的几种负载均衡方式之外，还有在协议内部支持负载均衡能力的技术，即URL交换或七层交换，提供了一种对访问流量的高层控制方式。

Web内容交换技术检查所有的HTTP报头，根据报头内的信息来执行负载均衡的决策。

例如可以根据这些信息来确定如何为个人主页和图像数据等内容提供服务，常见的有HTTP协议中的重定向能力等。

HTTP运行于TCP连接的最高层。

客户端通过恒定的端口号80的TCP服务直接连接到服务器，然后通过TCP连接向服务器端发送一个HTTP请求。

协议交换根据内容策略来控制负载，而不是根据TCP端口号，所以不会造成访问流量的滞留。

由于负载平衡设备要把进入的请求分配给多个服务器，因此，它只能在TCP连接时建立，且HTTP请求通过后才能确定如何进行负载的平衡。

当一个网站的点击率达到每秒上百甚至上千次时，TCP连接、HTTP报头信息的分析以及进程的时延已经变得很重要了，要尽一切可能提高这几各部份的性能。

在HTTP请求和报头中有很多对负载平衡有用的信息。

我们可以从这些信息中获知客户端所请求的URL和网页，利用这个信息，负载平衡设备就可以将所有的图像请求引导到一个图像服务器，或者根据URL的数据库查询内容调用CGI程序，将请求引导到一个专用的高性能数据库服务器。

如果网络管理员熟悉内容交换技术，他可以根据HTTP报头的cookie字段来使用Web内容交换技术改善对特定客户的服务，如果能从HTTP请求中找到一些规律，还可以充分利用它作出各种决策。

除了TCP连接表的问题外，如何查找合适的HTTP报头信息以及作出负载平衡决策的过程，是影响Web内容交换技术性能的重要问题。

如果Web服务器已经为图像服务、SSL对话、数据库事务服务之类的特殊功能进行了优化，那么，采用这个层次的流量控制将可以提高网络的性能。

◆网络接入协议交换大型的网络一般都是由大量专用技术设备组成的，如包括防火墙、路由器、第3、4层交换机、负载均衡设备、缓冲服务器和Web服务器等。

如何将这些技术设备有机地组合在一起，是一个直接影响到网络性能的关键性问题。

现在许多交换机提供第四层交换功能，对外提供一个一致的IP地址，并映射为多个内部IP地址，对每次TCP和UDP连接请求，根据其端口号，按照即定的策略动态选择一个内部地址，将数据包转发到该地址上，达到负载均衡的目的