Linux HA Cluster的原理模型与构建实例（1）

发布时间：2015-11-06 16:48:28作者：知识屋

一、什么是高可用集群

高可用集群就是当某一个节点或服务器发生故障时，另一个节点能够自动且立即向外提供服务，即将有故障节点上的资源转移到另一个节点上去，这样另一个节点有了资源既可以向外提供服务。高可用集群是用于单个节点发生故障时，能够自动将资源、服务进行切换，这样可以保证服务一直在线。在这个过程中，对于客户端来说是透明的。

二、高可用集群衡量标准

高可用集群一般是通过系统的可靠性(reliability)和系统的可维护性(maintainability)来衡量的。通常用平均无故障时间（MTTF）来衡量系统的可靠性，用平均维护时间（MTTR）来衡量系统的可维护性。因此，一个高可用集群服务可以这样来定义：HA=MTTF/(MTTF+MTTR)*100%

一般高可用集群的标准有如下几种：

99%：表示一年宕机时间不超过4天

99.9% ：表示一年宕机时间不超过10小时

99.99%：表示一年宕机时间不超过1小时

99.999% ：表示一年宕机时间不超过6分钟

三、HA Cluster 相关特性

1、提供冗余系统：HA Cluster：为提升系统调用性，组合多台主机构建成为的集群

2、vote system投票系统：HA中的各节点无法探测彼此的心跳信息时，必须无法协调工作；此种状态即为partitioned cluster；

投票原则：

（1）少数服从多数原则：quorum

whit quorum（拥有法定票数） > total1/2

without quorum（无法定票数）<= total1/2

当HA节点数为奇数时，通过判断投票数来仲裁，当HA节点数为偶数时，就需要使用其他仲裁设备

（2）仲裁设备

quorum disk （qdisk）：qdisk 是一个小于 10MB 导入所有集群节点的共享磁盘设备。qdiskd 是运行在集群的所有节点上用来定期评估自身的健康情况的后台服务,它定期将其节点的状态信息放入到 qdisk 上。每 qdiskd 服务在提交其节点信息后,接着查看 qdisk 上其他节点的状态，权重为(N / 2)；

ping node：同时ping某个网关或设备，通过通不通来仲裁

3、failover: 失效转移，故障转移，failback：失效转回，故障转回，通过配置ha.cf文件中的auto_failback on启用

4、心跳信息传递机制

（1）Serail cable：串形接口连接，作用范围有限，不建议使用；

（2）Ethernet cable：网线连接，通过网络接口（中间可通过交换机）将主机连接起来；

（3）UDP Unicast：UDP单播方式

UDP Multicast：UDP组播方式（相对比较常用）

UDP Broadcast：UDP广播方式

说明：组播地址：用于标识一个IP组播域；IANA(Internet Assigned number authority)把D类地址空间分配给IP组播使用；其范围是：224.0.0.0-239.255.255.255;

永久组播地址：224.0.0.0-224.0.0.255;

临时组播地址：224.0.1.0-238.255.255.255;

本地组播地址：239.0.0.0-239.255.255.255, 仅在特定本地范围内有效

四、HA Cluster的工作模型

1、主从方式（非对称）A/P：两节点集群，active, passive，工作于主备模型；

集群包含2个节点和一个或多个服务器，备份节点随时都在检测主节点的健康状态信息，当主节点发生故障时，服务会自动切换到备份节点保证运行，平时备份节点不会运行（感觉会让费资源）

2、对称方式：A/A：两节点集群，active/active，工作于双主模型；

集群包含2个节点和一个或多个服务，其中每一个节点都运行着不同的服务且相互作为备份，两个节点互相检测对方的健康状况，这样当其中一个节点发生故障时，该节点上的服务会自动切换到另一个节点上去，保证服务运行

3、多机模型：M-N（M个节点，N个服务，M>N）或M-M（M个节点，M个服务）

集群包含多个节点和多个服务。每一个节点都可能运行和不运行服务，每台服务器都监视着几个指定的服务，当其中的一个节点发生故障时，会自动切换到这组服务器中的一个节点上去。

五、HA Cluster的架构层次与解决方案

1、Messaging Layer：主要为信息层，作用是传递当前节点的心跳信息，告知其他节点是否在线，如果不在线，可根据相关机制实现资源转移，同时传递集群相关事务消息（每个节点安装相关心跳软件，通过网线连接起来，相互监听在相关IP地址和端口上）

解决方案：

（1）heartbeat V1,V2（稳定版）,V3

（2）corosync（openAIS的子项目分出研发，功能强大）

（3）keepalive

（4）cman

2、CRM（Cluster Resource Messager）：集群资源管理器

主要用来提供那些不具有高可用的服务提供高可用性的，调用Messaging Layer来实现工作。因此工作在Messaging Layer上层。资源管理器的主要工作是根据messaging Layer传递的健康信息来决定服务的启动、停止和资源转移、资源的定义和资源分配。在每一个节点上都包含一个CRM，且每个CRM都维护这一个CIB（Cluster Internet Base，集群信息库），只有在主节点上的CIB是可以修改的，其他节点上的CIB都是从主节点那里复制而来的。在CRM中还包含LRM和DC等组件

解决方案：

（1）heartbeat v1 haresources (配置接口：配置文件，文件名为haresources)

（2）heartbeat v2 crm (在各节点运行一个crmd进程，配置接口：命令行客户端程序crmsh，GUI客户端：hb_gui)；

（3）heartbeat v3, pacemaker (pacemaker可以以插件或独立方式运行；配置接口，CLI接口：crmsh, pcs; GUI: hawk(webgui), LCMC, pacemaker-mgmt)；

（4）rgmanager (配置接口，CLI：clustat, cman_tool; GUI: Conga(luci+ricci))

组合方式：

（1）heartbeat v1

（2）heartbeat v2

（3）heartbeat v3 + pacemaker

（4）corosync + pacemaker

（5）cman + rgmanager (RHCS)

（6）cman + pacemaker