Distributed Replicated Block Device(DRBD)是一个用软件实现的、无共享的、服务器之间镜像块设备内容的存储复制解决方案。其核心功能通过Linux的内核实现，比文件系统更加靠近操作系统内核及IO栈。DRBD是由内核模块和相关脚本而构成，用以构建高可用性的集群。其实现方式是通过网络来镜像整个设备。你可以把它看作是一种网络RAID。它允许用户在远程机器上建立一个本地块设备的实时镜像。

一、DRBD镜像特性及其工作原理

1、特性

实时性： 当应用对磁盘的数据进行修改时，复制立即发生。
透明性： 应用程序的数据存储在镜像设备上是独立和透明的，数据可存储在不同的服务器上。
同步镜像和异步镜像：
a、同步镜像，当本地发申请进行写操作进行时，同步写到两台服务器上。
b、异步镜像，当本地写申请已经完成对本地的写操作时，开始对对应的服务器进行写操作。

2、原理图

file system->buffer cache ->drbd->disk scheduler->disk drivers

二、DRBD基础特性

1、资源

DRBD主要是对磁盘资源的管控，因此在DRBD模块中，资源是所有可复制移动存储设备的总称。资源名：     资源名可以指定除了空格外 us-ascii 中的任意字符。DRBD 设备：     DRBD 的虚拟块设备。它有一个主设备号为 147 的设备，默认的它的次要号码编从 0 开始。    相关的块设备需命名为/ dev/ drbdm，其中 M 是设备的次要号码。磁盘配置：     DRBD 内部应用需要本地数据副本，元数据。网络配置：     各个对等接点间需要进行数据通信。

2、资源角色

DRBD角色： primary<->secondary 主：  在主 DRBD 设备中可以进行不受限制的读和写的操作。    他可用来创建和挂载文件系统、初始化或者是直接 I/O 的快设备，等等。备：      接收所有来自对等节点的更新，不能被应用也不能被读写访问。主要目的是保持缓冲及数据一致性。人工干预和管理程序的自动聚类算法都可以改变资源的角色。资源可以由被变换为主，以及主到备。

3、特性

支持复制传输数据完整性验证(验证算法：MD5、SHA-1、CRC-32C)

此特性针对在复制过程中由于网络传输原因导致的数据不一致。 DRBD对每个要复制的块生成一个校验和(摘要信息)，用来对peer端数据进行完整性校验，如果接收到的块的校验和与source端的校验和不一致，将会要求重传。resource net {data-integrity-alg ;}...}

支持在线设备验证

如果我们不在传输过程中对数据进行校验，我们仍然可以采用在线设备验证的方式，原理同上，我们可以采用定时任务周期性的对数据进行验证。默认情况下在线设备验证是未启用的，可以在配置文件/etc/drbd.conf添加。resource net {verify-alg ;}...}验证命令： drbdadm verify 

磁盘IO错误处理策略

磁盘出现IO错误时候，我们应该采用何种策略呢？ DRBD提供三种策略，分别是： detach 、 pass_on 、 call-local-io-error。detach    这是默认和推荐的选项。如果在节点上发生底层的磁盘 I/O 错误，它会将设备    运行在 diskless 无盘模式下。所有的对节点的读写将会从对端节点进行，这种情况下虽然性能有所下降，    但是仍然可以提供服务，很明显在高可用的情况下，这个策略使我们的首选。pass_on    drbd 会将 I/O 错误报告到上层。在主节点上，它会将其报告给挂载的文件系统，    但是在此节点上就往往忽略（因此此节点上没有可以报告的上层）local-io-error    调用本地磁盘 I/O 处理程序中定义的命令。 这就需要有相应有让 local-io-error    调用的资源处理程序处理错误的命令。这就给管理员留有足够自由的权力使用命令或者是脚    本调用 local-io-error 处理 I/O 错误。resource  {disk {on-io-error ;...}...}

过期数据处理策略

过期数据不是不一致性数据，只是说secondary不再与priamry同步数据了， secondary相当于是一个snapshot，这时候如果发生切换，那么可想而知，数据的一致性就会出现问题，我们需要通过某些策略来防止这种情况的发生：当出现过期数据的时候， drbd的连接状态将会由connect变为Wfconnection,这时候Pacemaker不会允许过期数据的节点提升为primary

暂停复制

对于一些网络状态不好的情况，如果我们采用协议C进行复制，那么数据复制延时将会很严重，这时候我们可以采用暂停复制的策略，这样当网络状况不好的时候， primary端将会暂停复制，primary和secondary将会处于链式的不同步状态，当带宽变为可用的时候，复制将会继续进行。

同步速率配置

可以根据网络带宽或网络资源状况配置同步速率以及使用临时速率，可变速率等。同步速率设置的超过网络的最大可用带宽也是没有任何意义的。请注意，同步的速率是 bytes 字节，而不是 bits/s。resource disk {sync-rate 40M;...}...}根据经验同步速率比较合理的是可用带宽的 30%。计算公式:   MIN(I/O子系统，网络I/O)*0.3假定一个 I/O 子系统能支持 180MB/s 的吞吐量， 而千兆网络可支持 110MB/s，此时网络带宽会成为瓶颈，可以计算出,同步速率：110*0.3=33MB/s假定一个 I/O 子系统能支持 80MB/s 的吞吐量，而千兆网络可支持 110MB/s，此时磁盘I/O会成为瓶颈，可以计算出,同步速率：80*0.3=24MB/s

脑裂通知和自动恢复

split brain实际上是指在某种情况下，造成drbd的两个节点断开连接，都以primary的身份来运行。当drbd某primary节点连接对方节点准备发送信息的时候如果发现对方也是primary状态，那么会立刻自行断开连接，并认定当前已经发生split brain了，这时候他会在系统日志中记录以下信息：“Split-Brain detected,dropping connection!”当发生split brain之后，如果查看连接状态，其中至少会有一个是StandAlone状态，另外一个可能也是StandAlone（如果是同时发现split brain状态），也有可能是WFConnection的状态。

自动处理：    a、 Discarding modifications made on the younger primary        ---后切换成primary角色的节点数据将会被丢弃    b、 Discarding modifications made on the older primary        ---先切换成primary角色的节点数据将会被丢弃    c、 Discarding modifications on the primary with fewer changes         --–哪个节点更改的数据少就丢弃    d、 Graceful recovery from split brain if one host has had no intermediate changes        ---如果有节点根本没有更新数据，就直接恢复drbd 脑裂主要在 net 配置，有以下关键字：after-sb-0pri：裂脑已经被探测到，但是现在没有节点处于主角色，对于这个选项， drbd 有以下关键字：    disconnect:        不需要自动恢复，仅仅是调用裂脑处理程序的脚本（如果配置了），断开连接并出在断开模式。    discard-younger-primary:        放弃和回滚最后成为主的上面所做的修改。    discard-least-changes:        放弃和回滚，变动比较少的主机上的修改。    discard-zero-changes:        如果任何节点都没有发生任何变化，仅仅申请在一个节点上做出继续修改即可。after-sb-1pri：裂脑已经被探测到，现有有一个节点处于主角色，对于这个选项， drbd 有以下关键字：disconnect:    和 after-sb-0pri 一样， 调用裂脑处理程序的脚本（如果配置了），断开连接并出在断开模式。consensus:    和 after-sb-0pri 中同样的修复策略。 如果利用这些策略裂脑危害能选择，那就能自动解决。 否则，同样断开指定的动作。call-pri-lost-after-sb:    和 after-sb-0pri 中同样的修复策略。如果利用这些策略裂脑危害能选择，就在受危害的节点上调用     pri-lost-after-sb 程序。这个程序必须确认在 handlers 中配置，并考虑到从集群中移除该节点。discard-secondary:    不管哪个主机只要处于次角色，都是裂脑的危害者。after-sb-2pri：在两个节点都处于主角色时，裂脑被发现。次选项使用和after-sb-1pri同样的关键字，丢弃次节点并达成共识。配置示例：resource  {handlers {split-brain "/usr/lib/drbd/notify-split-brain.sh root" //可能是目前系统中一个可执行的文件。...                                        //e.g. split-brain "/usr/lib/drbd/notify-split-brain.sh root";}                                          //如上通过电子邮件的方式发送到指定的地址。net {                                     after-sb-0pri discard-zero-changes;        //脑裂的相关自动修复策略after-sb-1pri discard-secondary;after-sb-2pri disconnect;...}...手动处理    首先在确定要作为secondary的节点上面切换成secondary并放弃该资源的数据        drbdadm secondary         drbdadm connect --discard-my-data     在要作为primary的节点重新连接secondary（如果这个节点当前的连接状态为WFConnection的话，可以省略）        drbdadm connect     当作完这些动作之后，从新的primary到secondary的re-synchnorisation会自动开始。

三、DRBD的复制模式及复制协议

1、复制模式

单主模式:在单主模式下， 任何资源在任何特定的时间，集群中只存在一个主节点。 正是因为这样在集群中只能有一个节点可以随时操作数据，这种模式可用在任何的文件系统上（ EXT3、 EXT4、 XFS等等）。双主模式:在双主模式下，任何资源在任何特定的时间，集群中都存在两个主节点。犹豫双方数据存在并发的可能性，这种模式需要一个共享的集群文件系统，利用分布式的锁机制进行管理，如 GFS 和OCFS2。部署双主模式时， DRBD 是负载均衡的集群，这就需要从两个并发的主节点中选取一个首选的访问数据。这种模式默认是禁用的，如果要是用的话必须在配置文件中进行声明。(DRBD8.0 之后支持)

2、复制协议

协议A：     数据一旦写入磁盘并发送到网络中就认为完成了写入操作。    在一个节点发生故障时，可能发生远程节点上的数据可能仍在发送队列导致数据丢失。协议B：     收到接收确认就认为完成了写入操作。    数据丢失可能发生在参加的两个节点同时故障的情况下。协议C：     收到写入确认就认为完成了写入操作。无数据丢失，主流配置，I/O 吞吐量依赖于网络带宽。