主从负载均衡集群分布式微服务 服务器相关整理

一、主从服务器

1、两台服务器。主服务器Master复制数据的更新、插入、删除等操作； 从服务器Slave负责查询（读写分离，减缓服务器压力）

2、主服务器更新数据的同时更新从服务器的数据（数据备份）

3、当主服务器出现文件时，可用从服务器代替主服务器，保证网站的正常运行，同时检测主服务器存在的问题。注意：从服务器仍然只有查询功能，如银行系统更新时只能查询余额，不能存取款。（服务器可用性）

4、当把从服务器真正设置为主服务器时（即主从服务器设置调换），拥有更新数据的功能。

5、MyISAM不支持事务，但查询性能比InnoDB强；InnoDB支持事务，更新操作性能比MyISAM强。因此，主服务器可以设置成MyISAM存储引擎，从服务器可以设置成InnoDB存储引擎（灵活设置存储引擎）

二、负载均衡

1、多台服务器。一个域名映射到多台服务器IP。

2、用户发出请求，提交到负载均衡服务器，由负载均衡服务器发送请求到不同的服务器。

3、负载均衡服务器选取服务器方法（负载均衡算法）：

1、轮询：每台服务器轮换

2、加权轮询：为了应对某些服务器性能好，可以让他们的权重高一点，被选中的几率大一些。

3、最少连接：哪台服务器处理的连接少，就发给哪台服务器。

4、随机

4、存在的问题：客户端存在缓存，如果服务器出现故障，客户端报错。

5、分类：DNS负载均衡、HTTP负载均衡、IP负载均衡、反向代理负载均衡。

三、服务器集群

1、多台服务器协同工作，每台服务器叫做集群的一个“节点”，每个节点都提供相同的服务。

2、优点：高性能、高可用性、可伸缩性

3、分类：负载均衡集群、高可用性集群、高性能集群

四、分布式架构

1、按照业务功能，将一个完整的系统拆分成一个个独立的子系统，每个子系统成为“服务”。子系统可以独立运行在web容器中，它们之间通过RPC方式通信。

五、微服务架构

六、消息队列

七、RPC

八、分布式、集群和微服务之间的联系：

1、分布式、集群分散压力

2、微服务分散功能

3、集群：每台服务器提供相同的服务

4、分布式：按照功能拆分服务器，每台服务器可以独立运行，依赖一个中心运用。

5、微服务：按照功能拆分服务器，每台服务器应用独立运行。

           高可用集群是指以减少服务中断时间为目的的 服务器集群 技术。它通过保护用户的业务程序对外不间断提供的服务，把因软件/硬件/人为造成的故障对业务的影响降低到最小程度。高可用集群的应用系统有多样化发展趋势，用途也越来越多样化，同时带来了配置及可操作性方面的复杂性，因此选择好的高可用软件至关重要。

           简单的说，集群（cluster）就是一组计算机，它们作为一个整体向用户提供一组网络资源。这些单个的计算机系统 就是集群的节点（node）。高可用性集群（HA cluster）是指如单系统一样地运行并支持（计算机）持续正常运行的一个主机群。

             分为前端负载调度和后端服务两个部分。负载调度部分负责把客户端的请求按照不同的策略分配给后端服务节点，而后端节点是真正提供应用程序服务的部分。与高可用集群不同的是，负载均衡集群中，所有的后端节点都处于活动动态，它们都对外提供服务，分摊系统的工作负载。

             负载均衡建立在现有网络结构之上，它提供了一种廉价、有效、透明的方法扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。

轮转(Round-Robin)算法

加权轮转(Weighted Round Robin)算法

最小连接数（Least Connections）算法

加权最小连接数（Weighted Least Connections）算法

目的地址哈希散列（Destination Hashing Scheduling）算法

源地址哈希散列（Source Hashing Scheduling）算法

随机（Random）算法

集群和负载均衡的区别如下：

1、集群(Cluster)

所谓集群是指一组独立的计算机系统构成的一个松耦合的多处理器系统,它们之间通过网络实现进程间的通信｡应用程序可以通过网络共享内存进行消息传送,实现分布式计算机｡

2、负载均衡(Load Balance)

网络的负载均衡是一种动态均衡技术,通过一些工具实时地分析数据包,掌握网络中的数据流量状况,把任务合理均衡地分配出去｡这种技术基于现有网络结构,提供了一种扩展服务器带宽和增加服务器吞吐量的廉价有效的方法,加强了网络数据处理能力,提高了网络的灵活性和可用性｡

3、特点

(1)高可靠性(HA)｡利用集群管理软件,当主服务器故障时,备份服务器能够自动接管主服务器的工作,并及时切换过去,以实现对用户的不间断服务｡

(2)高性能计算(HP)｡即充分利用集群中的每一台计算机的资源,实现复杂运算的并行处理,通常用于科学计算领域,比如基因分析､化学分析等｡

(3)负载平衡｡即把负载压力根据某种算法合理分配到集群中的每一台计算机上,以减轻主服务器的压力,降低对主服务器的硬件和软件要求｡

LVS系统结构与特点

1 Linux Virtual Server:简称LVS｡是由中国一个Linux程序员章文嵩博士发起和领导的,基于Linux系统的服务器集群解决方案,其实现目标是创建一个具有良好的扩展性､高可靠性､高性能和高可用性的体系｡许多商业的集群产品,比如RedHat的Piranha､ Turbo Linux公司的Turbo Cluster等,都是基于LVS的核心代码的｡

2 体系结构:使用LVS架设的服务器集群系统从体系结构上看是透明的,最终用户只感觉到一个虚拟服务器｡物理服务器之间可以通过高速的 LAN或分布在各地的WAN相连｡最前端是负载均衡器,它负责将各种服务请求分发给后面的物理服务器,让整个集群表现得像一个服务于同一IP地址的虚拟服务器｡

3 LVS的三种模式工作原理和优缺点: Linux Virtual Server主要是在负载均衡器上实现的,负载均衡器是一台加了 LVS Patch的22x版内核的Linux系统｡LVS Patch可以通过重新编译内核的方法加入内核,也可以当作一个动态的模块插入现在的内核中｡

你可以直接买一台负载均衡交换机啊，何必要浪费1台服务器呢。

2 应该是每台都会有一个IP地址 外网 访问连接到的那个IP地址 是你的负载均衡交换机的IP地址 他随机把你的访问请求分配到你的3台服务器上

3 无主从关系，负载均衡交换机它会没2秒左右向你的服务器发送一个健康检查，如果发现你的服务器出现问题，它会自动屏蔽你这台服务器

4 你问的重复问题。

集群主要分成三大类 （高可用集群， 负载均衡集群，科学计算集群）

高可用集群( High Availability Cluster)

负载均衡集群(Load Balance Cluster)

科学计算集群(High Performance Computing Cluster)

1、高可用集群(High Availability Cluster)

常见的就是2个节点做成的HA集群，有很多通俗的不科学的名称，比如”双机热备”, “双机互备”, “双机”。高可用集群解决的是保障用户的应用程序持续对外提供服务的能力。 (请注意高可用集群既不是用来保护业务数据的，保护的是用户的业务程序对外不间断提供服务，把因软件/硬件/人为造成的故障对业务的影响降低到最小程度)。

2、负载均衡集群(Load Balance Cluster)

负载均衡系统：集群中所有的节点都处于活动状态，它们分摊系统的工作负载。一般Web服务器集群、数据库集群和应用服务器集群都属于这种类型。

负载均衡集群一般用于相应网络请求的网页服务器，数据库服务器。这种集群可以在接到请求时，检查接受请求较少，不繁忙的服务器，并把请求转到这些服务器上。从检查其他服务器状态这一点上看，负载均衡和容错集群很接近，不同之处是数量上更多。

3、科学计算集群(High Performance Computing Cluster)

高性能计算(High Perfermance Computing)集群，简称HPC集群。这类集群致力于提供单个计算机所不能提供的强大的计算能力。

高性能计算分类：　

31、高吞吐计算(High-throughput Computing)

有一类高性能计算，可以把它分成若干可以并行的子任务，而且各个子任务彼此间没有什么关联。象在家搜寻外星人（ SETI@HOME – Search for Extraterrestrial Intelligence at Home ）就是这一类型应用。

这一项目是利用Internet上的闲置的计算资源来搜寻外星人。SETI项目的服务器将一组数据和数据模式发给Internet上参加SETI的计算节点，计算节点在给定的数据上用给定的模式进行搜索，然后将搜索的结果发给服务器。服务器负责将从各个计算节点返回的数据汇集成完整的 数据。因为这种类型应用的一个共同特征是在海量数据上搜索某些模式，所以把这类计算称为高吞吐计算。

所谓的Internet计算都属于这一类。按照 Flynn的分类，高吞吐计算属于SIMD（Single Instruction/Multiple Data）的范畴。

32、分布计算(Distributed Computing)

另一类计算刚好和高吞吐计算相反，它们虽然可以给分成若干并行的子任务，但是子任务间联系很紧密，需要大量的数据交换。按照Flynn的分类，分布式的高性能计算属于MIMD（Multiple Instruction/Multiple Data）的范畴。

下面说说这几种集群的应用场景：

高可用集群这里不多作说明。

想Dubbo是比较偏向于负载均衡集群，用过的猿友应该知道（不知道的可以自行了解一下），Dubbo同一个服务是可以有多个提供者的，当一个消费者过来，它要消费那个提供者，这里是有负载均衡机制在里面的。

搜索引擎Elasticsearch比较偏向于科学计算集群的分布计算。

而到这里，可能不少猿友都知道，集群的一些术语：集群容错、负载均衡。

我们以Dubbo为例：

集群容错（http://dubboio/User+Guide-zhhtm#UserGuide-zh-%E9%9B%86%E7%BE%A4%E5%AE%B9%E9%94%99）

Dubbo提供了这些容错策略：

集群容错模式：

可以自行扩展集群容错策略，参见：集群扩展

Failover Cluster

失败自动切换，当出现失败，重试其它服务器。(缺省)

通常用于读操作，但重试会带来更长延迟。

可通过retries="2"来设置重试次数(不含第一次)。

Failfast Cluster

快速失败，只发起一次调用，失败立即报错。

通常用于非幂等性的写操作，比如新增记录。

Failsafe Cluster

失败安全，出现异常时，直接忽略。

通常用于写入审计日志等操作。

Failback Cluster

失败自动恢复，后台记录失败请求，定时重发。

通常用于消息通知操作。

Forking Cluster

并行调用多个服务器，只要一个成功即返回。

通常用于实时性要求较高的读操作，但需要浪费更多服务资源。

可通过forks="2"来设置最大并行数。

Broadcast Cluster

广播调用所有提供者，逐个调用，任意一台报错则报错。(210开始支持)

通常用于通知所有提供者更新缓存或日志等本地资源信息。

负载均衡（http://dubboio/User+Guide-zhhtm#UserGuide-zh-%E8%B4%9F%E8%BD%BD%E5%9D%87%E8%A1%A1）

Dubbo提供了这些负载均衡策略：

Random LoadBalance

随机，按权重设置随机概率。

在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。

RoundRobin LoadBalance

轮循，按公约后的权重设置轮循比率。

存在慢的提供者累积请求问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。

LeastActive LoadBalance

最少活跃调用数，相同活跃数的随机，活跃数指调用前后计数差。

使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。

ConsistentHash LoadBalance

一致性Hash，相同参数的请求总是发到同一提供者。

当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。

算法参见：http://enwikipediaorg/wiki/Consistent_hashing。

缺省只对第一个参数Hash，如果要修改，请配置<dubbo:parameter key="hasharguments" value="0,1" />

缺省用160份虚拟节点，如果要修改，请配置<dubbo:parameter key="hashnodes" value="320" />

双机热备：

只有一个主机在工作，不能够平均分担负载，同一时间只有一台机器在工作，如果工作的机器发生故障，则通过集群将所有服务转移给另外一台机器，转移时间30秒到2分钟不等，根据数据量决定。

大多数应用于对安全性要求较高，且无24小时人员值守的环境。

负载均衡：

2台或2台以上的机器同时运行，设备之间没有主次之分，需要负载均衡设备，需要数据同步软件，并且基本上只应用前端接收请求的设备。当单台设备出现故障，则由其他设备平均分担所有应用请求。

大多数应用于访问量非常大的场合。只要有一台设备在工作，访问就不会中断。

双机热备与负载均衡区别在于：

1、双机热备相当于2台服务器其中有一台是另一台的备机，也可以互为备机；主机在运行服务时，备机处于检测状态，主机发生故障后，备机将接管主机的服务

2、负载均衡是在这2台服务器（或N多台）之上增加了一台负载均衡服务器，负载均衡服务器的作用是把用户的请求平均分配到每个节点；增加集群整体的处理能力；实现网络访问的均衡

3、双机热备是为保障247小时高可用不停机而推出的产品，而负载均衡是解决服务器压力过大，网络请求大量并发而设计的产品

4、双机热备的优点是：能保障用户服务不间断；负载均衡的优点：WEB访问流畅，用户请求平均分布在每个节点上

5、双机热备缺点：用传统加加阵列的方式增加了存储空间，同样也形成了单点故障；有可能双机热备成为虚设，因为一旦阵列崩溃，服务也意味这停止。 （在条件允许的情况下，可以考虑不加阵列，用软件方式做数据同步，阵列做为备份数据的存储，不失为一个好办法）

6、负载均衡的缺点：适用静态WEB，如果是数据库将不起作用，数据库的多向同步目前还没有完全解决的方案（比如某用户被分配到1号服务器，他在数据库里添加了一条信息；当他下次访问，却被分到2号服务器，那么他原先的数据库信息将不存在）

对于动态的、时常更新的WEB，多向的数据同步也很难，不过我现在已经有了不错的解决办法 因为增加了负载均衡服务器，使得各个节点冗余；但负载均衡器又会形成新的单点故障，所以如果要增加负载均衡设备，一定要选2台做均衡器冗余。