当前位置： 移动技术网 > IT编程>数据库>Redis > Redis全量复制与部分复制示例详解

Redis全量复制与部分复制示例详解

2019年09月09日  | 移动技术网IT编程  | 我要评论

redis 主从复制

  • redis 实例划分为主节点(master)和从节点(slave)
  • 默认情况下，redis都是主节点
  • 每个从节点只能有一个主节点，而主节点可以同时具有多个从节点
  • 复制的数据流是单向的，只能由主节点复制到从节点
  • slaveof 命令在使用时，可以运行期动态配置，也可以提前写到配置文件中
  • 主从复制

步骤 详细描述
保存主节点信息 执行slaveof后从节点只保存主节点的地址信息便直接返回
主从建立socket连接 从节点(slave)内部通过每秒运行的定时任务维护复制相关逻辑，当定时任务发现存在新的主节点后，会尝试与该节点建立网络连接;从节点会建立一个socket套接字，专门用于接受住节点发送的复制命令；如果从节点无法建立连接，定时任务会无限重试直到连接成功或者执行 slaveof no one 取消复制
发送ping命令 连接建立成功后从节点发送ping请求进行首次通信，ping请求的目的：检测主从之间套接字是否可用；检测主节点当前是否可接受处理命令.如果发送ping命令后，从节点没有收到主节点的pong回复或者超时，比如网络超时或者主节点正在阻塞无法响应命令，从节点会端口复制连接，下次定时任务会发起重连
权限验证 如果主节点设置了requirepass 参数，则需要密码验证，从节点必须配置masterauth参数保证与主节点相同的密码才能通过验证；如果验证失败复制将终止，从节点重新发起复制流程
同步数据集 主从复制连接正常通信后，对于首次建立复制的场景，主节点会把持有的数据全部发送给从节点.
命令持续复制 当主节点把当前的数据同步给从节点后，变成了复制的建立流程，接下来主节点会持续地把写命令发送给从节点，保证主从数据一致性

  • 启动6380、6381
  • 6381 执行命令
127.0.0.1:6381> slaveof 127.0.0.1 6380

redis5.0.0 改为 ： replicaof <masterip> <masterport>
  • 6380 启动

6381 启动

查看info replication

数据同步

类型 描述
全量复制 一般用于初次复制场景，redis早期支持的复制功能只有全量复制，它会把主节点全部数据一次性发送给从节点，当数据量较大时，会对主从节点和网络造成很大的开销
部分复制 用于处理在主从复制中因网络闪断等原因造成的数据丢失场景，当从节点再次连上主节点后，如果条件允许，主节点会补发丢失数据给从节点。因为补发的数据远远小于全量数据，可以有效避免全量复制的过高开销

复制偏移量

参数 描述
master_repl_offset 参与复制的主从节点都会维护自身复制偏移量。主节点(master)在处理完写入命令后，会把命令的字节长度做累加记录，统计信息在info replication中的master_repl_offset指标中
slave0 从节点(slave) 每秒钟上报自身的复制偏移量给主节点，因此主节点也会保存从节点的复制偏移量
slave_repl_offset 从节点在接收到主节点发送的命令后，也会累加记录自身的偏移量。

复制积压缓冲区

  • 复制积压缓冲区是保存在主节点上的一个固定长度的队列，默认大小为1mb，当主节点有连接的从节点(slave)时被创建，这是主节点(master)响应写命令时，不但会把命名发送给从节点，还会写入复制积压缓冲区
  • 由于缓冲区本质上是先进先出的定长队列，所以能实现保存最近已复制数据的功能，用于部分复制和复制命令丢失的数据补救

参数 描述
repl_backlog_active:1 开启复制缓冲区
repl_backlog_size:1048576 缓冲区最大长度
repl_backlog_first_byte_offset:1 起始偏移量，计算当前缓冲区可用范围
repl_backlog_histlen:2301 已保存数据的有效长度
master_replid 主节点实例的master_replid相同
master_replid2 未发生切换，即主实例未发生过变化，所以初始值为0

psync 命令

从节点使用psync命令完成部分复制和全量复制功能

30227:m 05 aug 2019 18:52:44.698 * replica 127.0.0.1:6381 asks for synchronization
30227:m 05 aug 2019 18:52:44.698 * partial resynchronization not accepted: replication id mismatch (replica asked for 'e7d71fb600183a175afadbd1354e97edddb2541a', my replication ids are 'e24f6e42917e7c162ec45a713b0ee3872005ee8b' and '0000000000000000000000000000000000000000')

6381 从节点打印分析

31771:s 06 aug 2019 12:21:40.213 * db loaded from disk: 0.000 seconds
31771:s 06 aug 2019 12:21:40.213 * before turning into a replica, using my master parameters to synthesize a cached master: i may be able to synchronize with the new master with just a partial transfer.
#启动成功
31771:s 06 aug 2019 12:21:40.213 * ready to accept connections
# 开始连接主节点
31771:s 06 aug 2019 12:21:40.214 * connecting to master 127.0.0.1:6380
# 开始同步
31771:s 06 aug 2019 12:21:40.214 * master <-> replica sync started
31771:s 06 aug 2019 12:21:40.214 * non blocking connect for sync fired the event.
31771:s 06 aug 2019 12:21:40.214 * master replied to ping, replication can continue...
# 尝试增量同步
31771:s 06 aug 2019 12:21:40.214 * trying a partial resynchronization (request 668b25f85e84c5900e1032e4b5e1f038f01cfa49:5895).
# 全量同步
31771:s 06 aug 2019 12:21:40.215 * full resync from master: c88cd043d66193e867929d9d5fadc952954371e5:0
31771:s 06 aug 2019 12:21:40.215 * discarding previously cached master state.
31771:s 06 aug 2019 12:21:40.240 * master <-> replica sync: receiving 224 bytes from master
31771:s 06 aug 2019 12:21:40.241 * master <-> replica sync: flushing old data
31771:s 06 aug 2019 12:21:40.241 * master <-> replica sync: loading db in memory
31771:s 06 aug 2019 12:21:40.241 * master <-> replica sync: finished with success

全量复制

  • 全量复制是redis最早支持的复制方式，也是主从第一次建立复制时必须经历的阶段。触发全量复制的命令是sync和psync
    • 发送psync命令进行数据同步，由于是第一次进行复制，从节点没有复制偏移量和主节点的运行id，所以发送psync-1
    • 主节点根据psync-1解析出当前为全量复制，回复+fullresync响应
    • 从节点接收主节点的响应数据保存运行id和偏移量offset
    • 主节点执行bgsave保存rdb文件到本地
31651:m 06 aug 2019 11:08:40.802 * starting bgsave for sync with target: disk
31651:m 06 aug 2019 11:08:40.802 * background saving started by pid 31676
31676:c 06 aug 2019 11:08:40.805 * db saved on disk
31676:c 06 aug 2019 11:08:40.806 * rdb: 0 mb of memory used by copy-on-write
31651:m 06 aug 2019 11:08:40.886 * background saving terminated with success
31651:m 06 aug 2019 11:08:40.886 * synchronization with replica 127.0.0.1:6381 succeeded
  • 主节点发送rdb给从节点，从节点把接收的rdb文件保存在本地并直接作为从节点的数据文件,接收完rdb后从节点打印相关日志
31645:s 06 aug 2019 11:08:40.886 * master <-> replica sync: receiving 224 bytes from master
  • 对于从节点开始接收rdb快照到接收完成期间，主节点仍然响应读写命令，因此主节点会把这期间写命令数据保存在复制客户端缓冲区内，当从节点加载完rdb文件后，主节点再把缓冲区内的数据发送个从节点，保证主从之间数据一致性。
  • redis.conf 配置
client-output-buffer-limit replica 256mb 64mb 60
  • 如果主节点创建和传输rdb的时间过长，对于高流量写入场景非常容易造成主节点复制客户端缓冲区溢出。默认配置如上所示，如果60秒内缓冲区消耗持续大于64mb或者直接超过256mb时，主节点将直接关闭复制客户端连接，造成全量同步失败
  • 对于主节点，当发送完所有的数据后就认为全量复制完成.
31651:m 06 aug 2019 11:08:40.886 * synchronization with replica 127.0.0.1:6381 succeeded
  • 从节点接收完主节点传送来的全部数据后会清空自身旧数据
31645:s 06 aug 2019 11:08:40.886 * master <-> replica sync: flushing old data
  • 从节点清空数据后开始加载rdb文件，对于较大的rdb文件，这一步操作依然比较耗时，可以通过计算日志之间的时间差来判断加载rdb的总耗时
31645:s 06 aug 2019 11:08:40.886 * master <-> replica sync: loading db in memory
31645:s 06 aug 2019 11:08:40.886 * master <-> replica sync: finished with success
  • 从节点成功加载完rdb后，如果当前节点开启了aof持久化功能，它会立刻做bgrewriteaof操作，为了保证全量复制后aof持久化文件立刻可用。
  • 全量复制耗时的原因：
    • 主节点bgsave时间
    • rdb文件网络传输时间
    • 从节点清空数据时间
    • 可能的aof重写时间
  • 以下为redis 3.0才会有

标识 含义
m 当前为主节点日志
s 当前为从节点日志
c 子进程日志

部分复制

  • 部分复制主要是redis针对全量复制的过高开销做出的一种优化措施，使用psync {runid}{offset}命令实现。当从节点(slave)正在复制主节点(master)时，如果出现网络闪断或者命令丢失等异常情况时，从节点会向主节点要求补发丢失的命令数据，如果主节点的复制积压缓冲区内存咋这部分数据则直接发送给从节点，这样就可以保持主从节点复制的一致性。补发的这部分数据一般远远小于全量数据.
    • 当主节点直接网络出现中断是，如果超过repl-timeout时间，主节点会认为从节点故障并中断复制连接
31767:m 06 aug 2019 14:13:26.096 # connection with replica 127.0.0.1:6381 lost.
  • 主从连接中断期间主节点依然响应命令，但因复制连接中断命令无法发送给从节点，不过主节点内部存在的复制积压缓冲区，依然可以保存最近一段时间的写命令数据，默认最大缓存1mb，可以通过into replication 查看
  • 当从节点网络恢复后，从节点会再次连上主节点
从节点打印：
31934:s 06 aug 2019 14:20:54.745 * master <-> replica sync started
31934:s 06 aug 2019 14:20:54.745 * non blocking connect for sync fired the event.
31934:s 06 aug 2019 14:20:54.745 * master replied to ping, replication can continue...
31934:s 06 aug 2019 14:20:54.745 * trying a partial resynchronization (request c88cd043d66193e867929d9d5fadc952954371e5:9996).
31934:s 06 aug 2019 14:20:54.746 * successful partial resynchronization with master.
31934:s 06 aug 2019 14:20:54.746 * master <-> replica sync: master accepted a partial resynchronization.

主节点打印：
31767:m 06 aug 2019 14:21:49.065 * replica 127.0.0.1:6381 asks for synchronization
31767:m 06 aug 2019 14:21:49.066 * partial resynchronization request from 127.0.0.1:6381 accepted. sending 0 bytes of backlog starting from offset 10066.
  • 当主从连接恢复后，由于从节点之前保存了自身已复制的偏移量和主节点的运行id。因此会把它们当做psync参数发送个主节点，要求进行部分复制操作.从节点对应日志：
31938:s 06 aug 2019 14:21:49.065 * trying a partial resynchronization (request c88cd043d66193e867929d9d5fadc952954371e5:10066).
  • 主节点接到psync命令后首先核对参数runid是否与自身一致，如果一致，说明之前复制的是当前主节点；之后根据参数offset在自身复制积压缓冲区查找，如果偏移量之后的数据存在缓冲区中，则对从节点发送+coutinue响应，表示可以进行部分复制。从节点接到回复打印如下：
31938:s 06 aug 2019 14:21:49.066 * successful partial resynchronization with master.
31938:s 06 aug 2019 14:21:49.066 * master <-> replica sync: master accepted a partial resynchronization.
  • 主节点根据偏移量把复制积压缓冲区里的数据发送给从节点，保证主从复制进入正常状态。发送的数据量可以在主节点的日志获取
31767:m 06 aug 2019 14:21:49.065 * replica 127.0.0.1:6381 asks for synchronization
31767:m 06 aug 2019 14:21:49.066 * partial resynchronization request from 127.0.0.1:6381 accepted. sending 0 bytes of backlog starting from offset 10066.

心跳

  • 主从节点在建立复制后,它们之间维护着长连接并彼此发送心跳命令
  • 主从心跳判断机制：
    • 主从节点彼此都有心跳检测机制，各自模拟对方的客户端进行通信，主节点的连接状态为flags=m,从节点连接状态为flags=s
    • 主节点默认每隔10秒对从节点发送ping命令，判断从节点的存活性和连接状态。可以通过repl-ping-replica-period 10 控制发送频率
    • 从节点在主线程中每隔一秒发送replconf ack{offset} 命令，给主节点上报自身当前的复制偏移量。主节点根据replconf命令判断从节点超时时间，体现在info replication 统计中的lag信息中，lag表示从节点最后一次通信延迟的秒数，正常延迟应该在0到1之间。如果超过repl-timeout配置的值(默认60秒),则判定从节点下线并断开复制客户端连接。即使主节点判定从节点下线后，如果从节点重新恢复，心跳检测和继续执行.

异步复制

  • 主节点不但负责数据读写，还负责把写命令同步给从节点。写命令的发送过程是异步完成，也就是说主节点自身处理完写命令后直接返回给客户端，并不等待从节点复制完成。

读写分离

  • 对于读占比较高的场景，可以通过把一部分读流量分摊到从节点(slave)来减轻主节点(master)压力，同时需要注意永远只对主节点执行写操作
  • 建议大家在做读写分离之前，可以考虑使用redis cluster 等分布式解决方案

总结

以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，谢谢大家对移动技术网的支持。

您可能感兴趣的文章:

如对本文有疑问， 点击进行留言回复！！

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网