中间件Redis持久化方式

news/2024/8/26 16:35:25

文章目录

  • 前言
    • RDB(Redis DataBase)快照(snapshot)
    • bgsave的写时复制(COW)机制
    • AOF(append-only file)
    • AOF重写
    • RDB 和 AOF ,我应该用哪一个?
    • Redis 4.0 混合持久化
    • Redis数据备份策略:

前言

记录redis入门

RDB(Redis DataBase)快照(snapshot)

在默认情况下, Redis 将内存数据库快照保存在名字为 dump.rdb 的二进制文件中。你可以对 Redis 进行设置, 让它在“ N 秒内数据集至少有 M 个改动”这一条件被满足时, 自动保存一次 数据集。比如说, 以下设置会让 Redis 在满足“ 60 秒内有至少有 1000 个键被改动”这一条件时, 自动保存一次 数据集:

save 60 1000 //关闭RDB只需要将所有的save保存策略注释掉即可

还可以手动执行命令生成RDB快照,进入redis客户端执行命令save或bgsave可以生成dump.rdb文件,每次命令执行都会将所有redis内存快照到一个新的rdb文件里,并覆盖原有rdb快照文件。

bgsave的写时复制(COW)机制

Redis 借助操作系统提供的写时复制技术(Copy-On-Write, COW)在生成快照的同时,依然可以正常 处理写命令。简单来说,bgsave 子进程是由主线程 fork 生成的,可以共享主线程的所有内存数据。bgsave 子进程运行后,开始读取主线程的内存数据,并把它们写入 RDB 文件。此时,如果主线程对这些 数据也都是读操作,那么,主线程和 bgsave 子进程相互不影响。但是,如果主线程要修改一块数据,那 么,这块数据就会被复制一份,生成该数据的副本。然后,bgsave 子进程会把这个副本数据写入 RDB 文 件,而在这个过程中,主线程仍然可以直接修改原来的数据。

  • save与bgsave对比:
命令savebgsave
IO类型同步异步
是否阻塞redis其它命令否(在生成子进程执行调用fork函 数时会有短暂阻塞)
复杂度O(n)O(n)
优点不会消耗额外内存不阻塞客户端命令
缺点阻塞客户端命令需要fork子进程,消耗内存
  • 配置自动生成rdb文件后台使用的是bgsave方式

AOF(append-only file)

快照功能并不是非常耐久(durable): 如果 Redis 因为某些原因而造成故障停机, 那么服务器将丢失 最近写入、且仍未保存到快照中的那些数据。从 1.1 版本开始, Redis 增加了一种完全耐久的持久化方 式: AOF 持久化,将修改的每一条指令记录进文件appendonly.aof中(先写入os cache,每隔一段时间 fsync到磁盘)。比如执行命令“set mjdai 666”,aof文件里会记录如下数据

*3
$3 
set 
$5 
mjdai
$3
666

这是一种resp协议格式数据,星号后面的数字代表命令有多少个参数,$号后面的数字代表这个参数有几 个字符。注意,如果执行带过期时间的set命令,aof文件里记录的是并不是执行的原始命令,而是记录key过期的 时间戳。比如执行“set mjdai 888 ex 1000”,对应aof文件里记录如下

*3
$3
set
$6
mjdai
$3
888
*3
$9
PEXPIREAT
$6
mjdai
$13
1604249786301

可以通过修改配置文件来打开 AOF 功能:

# appendonly yes

从现在开始, 每当 Redis 执行一个改变数据集的命令时(比如 SET), 这个命令就会被追加到 AOF 文 件的末尾。这样的话, 当 Redis 重新启动时, 程序就可以通过重新执行 AOF 文件中的命令来达到重建数据集的目 的。你可以配置 Redis 多久才将数据 fsync 到磁盘一次。

  • 有三个选项:
  1. appendfsync always:每次有新命令追加到 AOF 文件时就执行一次 fsync ,非常慢,也非常安全。
  2. appendfsync everysec:每秒 fsync 一次,足够快,并且在故障时只会丢失 1 秒钟的数据。
  3. appendfsync no:从不 fsync ,将数据交给操作系统来处理。更快,也更不安全的选择。
  • 推荐(并且也是默认)的措施为每秒 fsync 一次, 这种 fsync 策略可以兼顾速度和安全性。

AOF重写

AOF文件里可能有太多没用指令,所以AOF会定期根据内存的最新数据生成aof文件。
例如,执行了如下几条命令:

127.0.0.1:6379> incr readcount
(integer) 1
127.0.0.1:6379> incr readcount
(integer) 2
127.0.0.1:6379> incr readcount
 (integer) 3
127.0.0.1:6379> incr readcount
(integer) 4
127.0.0.1:6379> incr readcount
(integer) 5

重写后AOF文件里变成

*3 
$3
SET
$2
readcount
$1
5

如下两个配置可以控制AOF自动重写频率

# auto‐aof‐rewrite‐min‐size 64mb //aof文件至少要达到64M才会自动重写,文件太小恢复速度本来就 很快,重写的意义不大 
# auto‐aof‐rewrite‐percentage 100 //aof文件自上一次重写后文件大小增长了100%则再次触发重写

当然AOF还可以手动重写,进入redis客户端执行命令bgrewriteaof重写AOF。
注意,AOF重写redis会fork出一个子进程去做(与bgsave命令类似),不会对redis正常命令处理有太多 影响

RDB 和 AOF ,我应该用哪一个?

命令RDBAOF
启动优先级
体积
恢复速度
数据安全性容易丢数据慢根据策略决定

生产环境可以都启用,redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据,因为aof 一般来说数据更全一点。

Redis 4.0 混合持久化

重启 Redis 时,我们很少使用 RDB来恢复内存状态,因为会丢失大量数据。我们通常使用 AOF 日志重 放,但是重放 AOF 日志性能相对 RDB来说要慢很多,这样在 Redis 实例很大的情况下,启动需要花费很 长的时间。 Redis 4.0 为了解决这个问题,带来了一个新的持久化选项——混合持久化。
通过如下配置可以开启混合持久化(必须先开启aof):

 # aof‐use‐rdb‐preamble yes

如果开启了混合持久化,AOF在重写时,不再是单纯将内存数据转换为RESP命令写入AOF文件,而是将 重写这一刻之前的内存做RDB快照处理,并且将RDB快照内容和增量的AOF修改内存数据的命令存在一 起,都写入新的AOF文件,新的文件一开始不叫appendonly.aof,等到重写完新的AOF文件才会进行改 名,覆盖原有的AOF文件,完成新旧两个AOF文件的替换。 于是在 Redis 重启的时候,可以先加载 RDB 的内容,然后再重放增量 AOF 日志就可以完全替代之前的 AOF 全量文件重放,因此重启效率大幅得到提升。
混合持久化AOF文件结构如下:
在这里插入图片描述

Redis数据备份策略:

  • 写crontab定时调度脚本,每小时都copy一份rdb或aof的备份到一个目录中去,仅仅保留最近48 小时的备份
  • 每天都保留一份当日的数据备份到一个目录中去,可以保留最近1个月的备份
  • 每次copy备份的时候,都把太旧的备份给删了
  • 每天晚上将当前机器上的备份复制一份到其他机器上,以防机器损坏

http://www.niftyadmin.cn/n/4558323.html

相关文章

菜机互啄 linux 基础命令篇 持续更新中

LINUX 命令讲解篇 前言 Linux命令行有命令提示符,提示你可以输入指令 在linux之中用到最多的是两种用户 #:root 超级管理员 $:普通用户 命令格式: 指令 选项(修改命令的执行特性) …

中间件redis主从架构方式

文章目录前言Redis主从架构redis主从架构搭建,配置从节点步骤:Redis主从工作原理主从复制(全量复制)流程图:数据部分复制主从复制(部分复制,断点续传)流程图:Jedis连接代码示例:redis管道与调用lua脚本&…

请问学C语言要学什么做基础

所以没有什么不可能 ||| 要学基础太多了大学的计算机基础课还是很有用的什么软件基础了 两个月会用C 一个月精通C 我就如此 有问题可以方便解决 ||| 不需要任何基础 去找本书吧 学好了 慢慢来 这讲究逻辑吧 你慢慢看 什么数据结构了等等 不难的一定要有老师教 刚开始多理解 在练…

Jmeter(二十一)_脚本参数化与内存溢出的解决方案

这一篇文章随便说一下JMETER的脚本参数化 1:Parameters的两种参数化方法 1.1:函数助手参数化 首先准备你的参数数据。我在bin/data中新建了一个dat文件,记事本另存为修改编码为UTF-8,注意用户名和密码是一一对应的,用英…

中间件redis哨兵架构方式

文章目录前言Redis哨兵高可用架构redis哨兵架构搭建步骤哨兵的Jedis连接代码:哨兵的Spring Boot整合Redis连接代码StringRedisTemplate与RedisTemplate详解在 RedisTemplate中提供了几个常用的接口方法的使用RedisTemplate中定义了对5种数据结构操作Redis客户端命令…

有谁知道C#教学软件在哪可以下载

迅雷下载Visual Studio 2005 ||| 你要C#教学视频还是有的http://thcjp.cnblogs.com/

13-[函数进阶]-列表生成式,生成器迭代器

1.列表生成式 Python一种独特的语法,相当于语法糖的存在,可以帮你在某些场合写出比较精简酷炫的代码。但没有它,也不会有太多的影响。 语法糖(Syntactic sugar),也译为糖衣语法,是由英国计算机科…

中间件redis集群高阶面试

文章目录前言Redis集群方案比较Redis高可用集群搭建Java操作redis集群集群的Spring Boot整合Redis连接代码Redis集群原理分析槽位定位算法跳转重定位Redis集群节点间的通信机制网络抖动Redis集群选举原理分析集群脑裂数据丢失问题集群是否完整才能对外提供服务Redis集群为什么至…