您当前的位置:首页 > 电脑百科 > 数据库 > Redis

Redis 如何实现持久化?

时间:2023-04-03 13:49:55  来源:微信公众号  作者:猿java

今天分享的内容是:redis 如何实现持久化。

一、什么是持久化 

持久化,Persistence,把数据(如内存中的对象)保存到可永久保存的存储设备中(如磁盘)。这样可以保证程序在服务器宕机后,重新启动不会丢失数据。

 

二、持久化方式 

Redis 的持久化方式有两种:RDB 和 AOF。

1. RDB

RDB:Redis DataBase,它是将 Redis 在内存中的数据定期或者在指定时间间隔内快照到磁盘上,生成一个RDB文件,该文件包含了Redis在某个时间点上的数据快照。当 Redis 重新启动时,可以通过加载 RDB 文件来恢复数据。

2. AOF

AOF:Append Only File,它是将 Redis 执行的每一条写命令追加到 AOF 文件的末尾,每次 Redis 启动时重新执行 AOF 文件中的命令,从而重新构建数据集。通过这种方式,可以保证 Redis 的数据不会丢失,但是对于每一次写操作都需要进行记录,AOF文件会变得非常大。

实现原理图如下:

图片

 

三、RDB原理 

Redis DataBase(RDB)是将 Redis 在内存中的数据以二进制的形式定期或者在指定时间间隔内快照到磁盘上,生成一个 RDB 文件,该文件包含了 Redis 在某个时间点上的数据快照。当 Redis 重新启动时,可以通过加载 RDB 文件来恢复数据。其原理主要分为如下 3个核心流程:

1. 触发持久化

Redis支持两种触发持久化的方式,一种是根据时间间隔自动触发持久化,另一种是手动执行 SAVE 或 BGSAVE 命令来触发持久化。手动执行 BGSAVE 命令可以在 Redis 持续提供服务的同时进行持久化操作,而手动执行 SAVE 命令会阻塞 Redis 的服务进程,直到持久化操作完成,所以生产换进慎用 SAVE 指令。

2. 生成 RDB文件

当 Redis 触发持久化操作时,Redis 会 fork 出一个子进程,子进程负责生成 RDB 文件。在生成 RDB 文件的过程中,Redis 会将内存中的数据按照一定的格式写入到 RDB 文件中,包括键值对、过期时间、数据库号等信息。

3. 完成持久化

当子进程完成 RDB 文件的生成后,Redis会将原来的RDB文件替换成新生成的RDB文件,从而完成持久化操作。在这个过程中,Redis会阻塞所有写操作,确保RDB文件的一致性。

Redis Server 自动创建 RDB 文件的默认配置在 redis.conf 里,内容如下:

save 900 1 # 服务器在900s(15分钟)之内,对数据进行了至少1次修改save 300 10  #服务器在300s(5分钟)之内,对数据进行了至少10次修改save 60 10000 #服务器在60s(1分钟)之内,对数据进行了至少10000次修改

 

RDB文件格式

RDB文件格式由多个部分组成,包括:

  1. RDB文件头部:包含"REDIS"字样的字符串,以及版本号等信息。

  2. 保存键值对数据:键值对数据以"SELECTDB"命令开头,后面跟着一个4字节的整数,表示数据库编号。然后是若干个键值对数据,每个键值对包含3部分:键的长度、键的内容、值的内容。

  3. 保存过期时间:RDB文件还可以保存键值对的过期时间,以便在Redis重启时自动删除过期的键值对。过期时间以"EXPIRETIME_MS"命令开头,后面跟着键和过期时间等信息。

  4. RDB文件尾部:包含一个8字节的校验和,用于检测RDB文件是否被修改。

以下是一个简单的 RDB文件示例:

REDIS0006   // RDB文件头部SELECTDB 0  // 选择数据库0$3foo$3bar  // 键为"foo",值为"bar"$3abc$5hello  // 键为"abc",值为"hello"EXPIRETIME_MS $3foo$4     // 设置键"foo"的过期时间为4秒00000000    // RDB文件尾部的校验和

在读取RDB文件时,Redis会按照上述格式逐个解析RDB文件的每个部分,并将数据加载到内存中。如果Redis在重启时检测到了存在RDB文件,它将读取RDB文件,并将其中的数据加载到内存中,以便快速恢复数据。

 

四、AOF 原理 

Append Only File(AOF),将 Redis 执行的每一条写命令追加到 AOF 文件的末尾,每次Redis启动时重新执行 AOF 文件中的命令,从而重新构建数据集。通过这种方式,可以保证 Redis 的数据不会丢失。

AOF 实现原理核心流程如下:

1. AOF持久化策略

Redis 支持三种 AOF 持久化策略:

  • always:每次执行写命令时都会将命令追加到AOF文件中。

  • everysec:每秒执行一次AOF持久化操作,将一秒钟内执行的写命令追加到AOF文件中。

  • no:不进行AOF持久化操作。

     

2. AOF文件格式

AOF文件的格式是一系列Redis命令的序列化形式,Redis将写入AOF文件的命令转换为一系列字符串,并添加到AOF文件的末尾。这些命令包括SET、DEL、INCR等操作,但是对于读命令,如GET、HGET等操作,Redis不会将其写入AOF文件。

3. AOF重写

AOF重写是为了解决 AOF 文件过大的问题,它会根据当前内存中的数据重建一个新的 AOF文件,并用新文件替换旧文件。在重写过程中,Redis会将一段时间内的写命令重写为一条SET命令或者DEL命令,从而减小AOF文件的大小。重写过程中,Redis会使用内存中的数据来生成新的AOF文件,并在生成过程中暂停所有写操作。

4. 完成持久化

当Redis触发AOF持久化操作时,Redis会将内存中的写命令追加到AOF文件的末尾,然后通过fsync系统调用将写入的内容强制写入磁盘,确保数据的安全性。

AOF 文件格式

AOF文件的格式非常简单,它是一个文本文件,每行都记录了一条Redis命令。每条命令都以"$"开头,表示命令长度,接着是命令的具体内容,以"rn"结尾。例如,以下是一条SET命令的AOF格式:

  • $3rnSETrn$5rnmykeyrn$7rnmyvaluern

其中,"$3rn"表示命令"SET"的长度为3,"rn"表示换行符,"$5rn"表示key的长度为5,"mykey"是key的具体内容,"rn"表示换行符,"$7rn"表示value的长度为7,"myvalue"是value的具体内容,"rn"表示换行符。

在AOF文件中,除了记录命令外,还有一些特殊的标记,如"*rn"表示一次多个命令的操作,"$-1rn"表示空值,":0rn"表示数字0等。

 

五、优缺点 

1. RDB 优缺点

优点:对于数据的备份和恢复非常快速,因为它生成的是一个快照文件,不需要对每一条数据进行操作。

缺点:如果 Redis 意外宕机,可能会丢失最近一次快照时间点之后的数据。

2. AOF 优缺点

优点:能够保证数据的完整性,即使 Redis 意外宕机,也可以通过 AOF 文件来恢复数据。

缺点:每一次写操作都需要进行记录,AOF文件会变得非常大,而且 AOF 重写操作会占用大量 CPU 和内存资源。

为了兼顾两种方式的优缺点,Redis提供了两种混合持久化方式:

  1. AOF重写:Redis会在后台启动一个进程,重写 AOF文件,将其中的无效命令删除,从而缩小AOF文件的大小。

  2. AOF 和 RDB同时开启:Redis同时使用 AOF 和 RDB 两种方式进行持久化,当Redis重启时,优先使用 AOF 文件来恢复数据,如果 AOF 文件不存在或者损坏,则使用 RDB文件来恢复数据。

     

六、AOF 重写机制 

AOF重写机制是Redis用来解决AOF文件过大问题的一种机制。当AOF文件过大时,可以通过 AOF 重写机制来生成一个新的、紧凑的 AOF 文件,以减小 AOF 文件的大小,提高Redis的性能。

AOF重写机制的实现原理如下:

1. 触发AOF重写

Redis会周期性地检查 AOF 文件的大小,如果超过了设定的阈值,就会触发 AOF 重写操作。在默认情况下,当 AOF 文件大小超过64MB时,Redis会自动触发 AOF 重写操作。如果需要修改阈值,可以通过配置文件中的"auto-aof-rewrite-percentage"和"auto-aof-rewrite-min-size"参数来修改。

2. 执行AOF重写

AOF重写操作是在一个子进程中执行的,它会遍历内存中的数据结构,将一段时间内的写命令重写为一条SET命令或者 DEL命令,并写入新的 AOF 文件。在重写过程中,Redis会将新的AOF文件和旧的AOF文件进行比较,如果发现有相同的命令序列,就会将新的AOF文件中的命令序列替换为旧的AOF文件中的命令序列,以减小新AOF文件的大小。

3. 完成AOF重写

AOF重写操作完成后,Redis会将新的AOF文件替换旧的AOF文件,并通过fsync系统调用将写入的内容强制写入磁盘,以确保数据的安全性。

AOF重写机制的优点是可以减小AOF文件的大小,提高Redis的性能,缺点是重写操作会占用大量CPU和内存资源,如果数据量较大,可能会导致Redis的性能下降。



Tags:Redis   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
Redis 不再 “开源”,未来采用 SSPLv1 和 RSALv2 许可证
Redis 官方于21日宣布修改开源协议 —— 未来所有版本都将使用 “源代码可用” 的许可证 (source-available licenses)。具体来说,Redis 将不再遵循 BSD 3-Clause...【详细内容】
2024-03-27  Search: Redis  点击:(11)  评论:(0)  加入收藏
Redis“叛逃”开源,得罪了几乎所有人
内存数据库供应商Redis近日在开源界砸下了一块“巨石”。Redis即将转向双许可模式,并实施更为严格的许可条款。官方对此次变更的公告直截了当:从Redis 7.4版本开始,Redis将在Re...【详细内容】
2024-03-25  Search: Redis  点击:(9)  评论:(0)  加入收藏
如何使用 Redis 实现消息队列
Redis不仅是一个强大的内存数据存储系统,它还可以用作一个高效的消息队列。消息队列是应用程序间或应用程序内部进行异步通信的一种方式,它允许数据生产者将消息放入队列中,然...【详细内容】
2024-03-22  Search: Redis  点击:(17)  评论:(0)  加入收藏
Redis不再 “开源”
Redis 官方今日宣布修改开源协议 —— 未来所有版本都将使用 “源代码可用” 的许可证 (source-available licenses)。具体来说,Redis 将不再遵循 BSD 3-Clause 开...【详细内容】
2024-03-21  Search: Redis  点击:(8)  评论:(0)  加入收藏
在Redis中如何实现分布式锁的防死锁机制?
在Redis中实现分布式锁是一个常见的需求,可以通过使用Redlock算法来防止死锁。Redlock算法是一种基于多个独立Redis实例的分布式锁实现方案,它通过协调多个Redis实例之间的锁...【详细内容】
2024-02-20  Search: Redis  点击:(47)  评论:(0)  加入收藏
手动撸一个 Redis 分布式锁
大家好呀,我是楼仔。今天第一天开工,收拾心情,又要开始好好学习,好好工作了。对于使用 Java 的小伙伴,其实我们完全不用手动撸一个分布式锁,直接使用 Redisson 就行。但是因为这些...【详细内容】
2024-02-19  Search: Redis  点击:(39)  评论:(0)  加入收藏
工作中Redis有哪些好用的运维工具
工作中使用 Redis 时,如果大家公司没有专业运维,可能开发人员就会面临这些运维的工作,包括 Redis 的运行状态监控,数据迁移,主从集群、切片集群的部署和运维等等。本文我就从这三...【详细内容】
2024-02-06  Search: Redis  点击:(55)  评论:(0)  加入收藏
深入Go底层原理,重写Redis中间件实战
Go语言以其简洁、高效和并发性能而闻名,深入了解其底层原理可以帮助我们更好地利用其优势。在本文中,我们将探讨如何深入Go底层原理,以及如何利用这些知识重新实现一个简单的Re...【详细内容】
2024-01-25  Search: Redis  点击:(66)  评论:(0)  加入收藏
批量执行Redis命令的四种方式!
前言在我们的印象中Redis命令好像都是一个个单条进行执行的,如果有人问你如何批量执行Redis命令,你能回答的上吗,或者说能答出几种方式呢?最容易想到的是Redis的一些批量命令,例...【详细内容】
2024-01-17  Search: Redis  点击:(58)  评论:(0)  加入收藏
Redis 实现多规则限流的思考与实践
市面上很多介绍redis如何实现限流的,但是大部分都有一个缺点,就是只能实现单一的限流,比如1分钟访问1次或者60分钟访问10次这种,但是如果想一个接口两种规则都需要满足呢,我们的...【详细内容】
2024-01-03  Search: Redis  点击:(109)  评论:(0)  加入收藏
▌简易百科推荐
Redis 不再 “开源”,未来采用 SSPLv1 和 RSALv2 许可证
Redis 官方于21日宣布修改开源协议 —— 未来所有版本都将使用 “源代码可用” 的许可证 (source-available licenses)。具体来说,Redis 将不再遵循 BSD 3-Clause...【详细内容】
2024-03-27  dbaplus社群    Tags:Redis   点击:(11)  评论:(0)  加入收藏
Redis“叛逃”开源,得罪了几乎所有人
内存数据库供应商Redis近日在开源界砸下了一块“巨石”。Redis即将转向双许可模式,并实施更为严格的许可条款。官方对此次变更的公告直截了当:从Redis 7.4版本开始,Redis将在Re...【详细内容】
2024-03-25    51CTO  Tags:Redis   点击:(9)  评论:(0)  加入收藏
如何使用 Redis 实现消息队列
Redis不仅是一个强大的内存数据存储系统,它还可以用作一个高效的消息队列。消息队列是应用程序间或应用程序内部进行异步通信的一种方式,它允许数据生产者将消息放入队列中,然...【详细内容】
2024-03-22  后端Q  微信公众号  Tags:Redis   点击:(17)  评论:(0)  加入收藏
Redis不再 “开源”
Redis 官方今日宣布修改开源协议 —— 未来所有版本都将使用 “源代码可用” 的许可证 (source-available licenses)。具体来说,Redis 将不再遵循 BSD 3-Clause 开...【详细内容】
2024-03-21  OSC开源社区    Tags:Redis   点击:(8)  评论:(0)  加入收藏
在Redis中如何实现分布式锁的防死锁机制?
在Redis中实现分布式锁是一个常见的需求,可以通过使用Redlock算法来防止死锁。Redlock算法是一种基于多个独立Redis实例的分布式锁实现方案,它通过协调多个Redis实例之间的锁...【详细内容】
2024-02-20  编程技术汇    Tags:Redis   点击:(47)  评论:(0)  加入收藏
手动撸一个 Redis 分布式锁
大家好呀,我是楼仔。今天第一天开工,收拾心情,又要开始好好学习,好好工作了。对于使用 Java 的小伙伴,其实我们完全不用手动撸一个分布式锁,直接使用 Redisson 就行。但是因为这些...【详细内容】
2024-02-19  楼仔  微信公众号  Tags:Redis   点击:(39)  评论:(0)  加入收藏
工作中Redis有哪些好用的运维工具
工作中使用 Redis 时,如果大家公司没有专业运维,可能开发人员就会面临这些运维的工作,包括 Redis 的运行状态监控,数据迁移,主从集群、切片集群的部署和运维等等。本文我就从这三...【详细内容】
2024-02-06  waynaqua    Tags:Redis   点击:(55)  评论:(0)  加入收藏
批量执行Redis命令的四种方式!
前言在我们的印象中Redis命令好像都是一个个单条进行执行的,如果有人问你如何批量执行Redis命令,你能回答的上吗,或者说能答出几种方式呢?最容易想到的是Redis的一些批量命令,例...【详细内容】
2024-01-17  小许code  微信公众号  Tags:Redis命令   点击:(58)  评论:(0)  加入收藏
Redis 实现多规则限流的思考与实践
市面上很多介绍redis如何实现限流的,但是大部分都有一个缺点,就是只能实现单一的限流,比如1分钟访问1次或者60分钟访问10次这种,但是如果想一个接口两种规则都需要满足呢,我们的...【详细内容】
2024-01-03  架构精进之路  微信公众号  Tags:Redis   点击:(109)  评论:(0)  加入收藏
一站式Redis解决方案
Redis是一个高效的内存数据库,它支持包括String、List、Set、SortedSet和Hash等数据类型的存储,在Redis中通常根据数据的key查询其value值,Redis没有模糊条件查询,在面对一些需...【详细内容】
2024-01-01  大雷家吃饭    Tags:Redis   点击:(66)  评论:(0)  加入收藏
站内最新
站内热门
站内头条