Redis
2023-12-26 09:25:49 49 举报AI智能生成
Redis
作者其他创作
大纲/内容
原理简介
什么是Redis
Redis 是完全开源免费的，是一个高性能的key-value数据库，目前市面上主流的数据库Redis、Memcache、Tair(淘宝自研发)
Redis单线线程模型
关系型数据库与非关系型数据库
关系型数据库最典型的数据结构是表，由二维表及其之间的联系所组成的一个数据组织。
优点
1、易于维护：都是使用表结构，格式一致；
2、使用方便：SQL语言通用，可用于复杂查询；
3、复杂操作：支持SQL，可用于一个表以及多个表之间非常复杂的查询。
缺点
1、读写性能比较差，尤其是海量数据的高效率读写；
2、固定的表结构，灵活度稍欠；
3、高并发读写需求，传统关系型数据库来说，硬盘I/O是一个很大的瓶颈。
非关系型数据库严格上不是一种数据库，应该是一种数据结构化存储方法的集合，可以是文档或者键值对等。
优点
1、格式灵活：存储数据的格式可以是key,value形式、文档形式、图片形式等等，文档形式、图片形式等等，使用灵活，应用场景广泛，而关系型数据库则只支持基础类型。
2、速度快：nosql可以使用硬盘或者随机存储器作为载体，而关系型数据库只能使用硬盘；
3、高扩展性；
4、成本低：nosql数据库部署简单，基本都是开源软件。
2、速度快：nosql可以使用硬盘或者随机存储器作为载体，而关系型数据库只能使用硬盘；
3、高扩展性；
4、成本低：nosql数据库部署简单，基本都是开源软件。
缺点
1、格式灵活：存储数据的格式可以是key,value形式、文档形式、图片形式等等，文档形式、图片形式等等，使用灵活，应用场景广泛，而关系型数据库则只支持基础类型。
2、速度快：nosql可以使用硬盘或者随机存储器作为载体，而关系型数据库只能使用硬盘；
3、高扩展性；
4、成本低：nosql数据库部署简单，基本都是开源软件。
2、速度快：nosql可以使用硬盘或者随机存储器作为载体，而关系型数据库只能使用硬盘；
3、高扩展性；
4、成本低：nosql数据库部署简单，基本都是开源软件。
安装
Linux
安装步骤
1.插件准备
yum install gcc
//临时关闭
systemctl stop firewalld
//禁止开机启动
systemctl disable firewalld
Removed symlink /etc/systemd/system/multi-user.target.wants/firewalld.service.
Removed symlink /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.
2.解压tar包
tar -zxvf redis-5.0.6.tar.gz
3.安装
cd redis-5.0.3
4.创建安装目录
mkdir /usr/redis
5.编译安装
make install PREFIX=/usr/redis (安装指定目录)
或者
make install (安装默认目录/usr/local/bin)
6.启动(前端启动)
cd /usr/redis/bin
./redis-server
./redis-server /redis-5.0.6/redis.conf ## 指定配置文件
7.客户端连接
./redis-cli #无密码方式
./redis-cli -a "123456" #密码方式
./redis-cli -h 127.0.0.1 -p 6379 -a "123456" #全量配置启动
8.关闭
redis-cli shutdown #无密码
redis-cli -a "123456" shutdown #密码方式
redis-cli -h 127.0.0.1 -p 6379 -a "123456" shutdown #全量配置停止
## 复制
cp /usr/redis-5.0.6/redis.conf /usr/redis/bin
## 修改后端启动配置
vi redis.conf daemonize yes
## 重启启动Redis
./redis-server ./redis.conf
## 找到redis进程
ps aux | grep 'redis'
yum install gcc
//临时关闭
systemctl stop firewalld
//禁止开机启动
systemctl disable firewalld
Removed symlink /etc/systemd/system/multi-user.target.wants/firewalld.service.
Removed symlink /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.
2.解压tar包
tar -zxvf redis-5.0.6.tar.gz
3.安装
cd redis-5.0.3
4.创建安装目录
mkdir /usr/redis
5.编译安装
make install PREFIX=/usr/redis (安装指定目录)
或者
make install (安装默认目录/usr/local/bin)
6.启动(前端启动)
cd /usr/redis/bin
./redis-server
./redis-server /redis-5.0.6/redis.conf ## 指定配置文件
7.客户端连接
./redis-cli #无密码方式
./redis-cli -a "123456" #密码方式
./redis-cli -h 127.0.0.1 -p 6379 -a "123456" #全量配置启动
8.关闭
redis-cli shutdown #无密码
redis-cli -a "123456" shutdown #密码方式
redis-cli -h 127.0.0.1 -p 6379 -a "123456" shutdown #全量配置停止
## 复制
cp /usr/redis-5.0.6/redis.conf /usr/redis/bin
## 修改后端启动配置
vi redis.conf daemonize yes
## 重启启动Redis
./redis-server ./redis.conf
## 找到redis进程
ps aux | grep 'redis'
将Redis设置为后台启动
## 复制
cp /usr/redis-5.0.6/redis.conf /usr/redis/bin
## 修改后端启动配置
vi redis.conf daemonize yes
## 重启启动Redis
./redis-server ./redis.conf
## 找到redis进程
ps aux | grep 'redis'
设置Reids允许ip访问
注释掉bind 127.0.0.1
protected-mode no ###允许外界访问
docker安装
docker pull redis
docker run -di --name redis -p 6379:6379 redis
//全量配置
docker run -d --privileged=true -p 6379:6379 --restart=always -v /dockerdata/redis/conf/redis.conf:/etc/redis/redis.conf -v /dockerdata/redis/data:/data --name myredis redis redis-server /etc/redis/redis.conf --appendonly yes
docker run -di --name redis -p 6379:6379 redis
//全量配置
docker run -d --privileged=true -p 6379:6379 --restart=always -v /dockerdata/redis/conf/redis.conf:/etc/redis/redis.conf -v /dockerdata/redis/data:/data --name myredis redis redis-server /etc/redis/redis.conf --appendonly yes
windows
##下载
https://github.com/tporadowski/redis/releases
解压双击redis-server.exe启动即可
##指定配置文件启动
redis-server.exe redis.conf
https://github.com/tporadowski/redis/releases
解压双击redis-server.exe启动即可
##指定配置文件启动
redis-server.exe redis.conf
Redis.conf配置文件内容解析
1. Redis默认不是以守护进程的方式运行，可以通过该配置项修改，使用yes启用守护进程
daemonize no
2. 当Redis以守护进程方式运行时，Redis默认会把pid写入/var/run/redis.pid文件，可以通过pidfile指定
pidfile /var/run/redis.pid
3. 指定Redis监听端口，默认端口为6379，作者在自己的一篇博文中解释了为什么选用6379作为默认端口，因为6379在手机按键上MERZ对应的号码，而MERZ取自意大利歌女Alessia Merz的名字
port 6379
4. 绑定的主机地址
bind 127.0.0.1
5.当 客户端闲置多长时间后关闭连接，如果指定为0，表示关闭该功能
timeout 300
6. 指定日志记录级别，Redis总共支持四个级别：debug、verbose、notice、warning，默认为verbose
loglevel verbose
7. 日志记录方式，默认为标准输出，如果配置Redis为守护进程方式运行，而这里又配置为日志记录方式为标准输出，则日志将会发送给/dev/null
logfile stdout
8. 设置数据库的数量，默认数据库为0，可以使用SELECT <dbid>命令在连接上指定数据库id
databases 16
9. 指定在多长时间内，有多少次更新操作，就将数据同步到数据文件，可以多个条件配合
save <seconds> <changes>
Redis默认配置文件中提供了三个条件：
save 900 1
save 300 10
save 60 10000
分别表示900秒（15分钟）内有1个更改，300秒（5分钟）内有10个更改以及60秒内有10000个更改。
10. 指定存储至本地数据库时是否压缩数据，默认为yes，Redis采用LZF压缩，如果为了节省CPU时间，可以关闭该选项，但会导致数据库文件变的巨大
rdbcompression yes
11. 指定本地数据库文件名，默认值为dump.rdb
dbfilename dump.rdb
12. 指定本地数据库存放目录
dir ./
13. 设置当本机为slav服务时，设置master服务的IP地址及端口，在Redis启动时，它会自动从master进行数据同步
slaveof <masterip> <masterport>
14. 当master服务设置了密码保护时，slav服务连接master的密码
masterauth <master-password>
15. 设置Redis连接密码，如果配置了连接密码，客户端在连接Redis时需要通过AUTH <password>命令提供密码，默认关闭
requirepass foobared
16. 设置同一时间最大客户端连接数，默认无限制，Redis可以同时打开的客户端连接数为Redis进程可以打开的最大文件描述符数，如果设置 maxclients 0，表示不作限制。当客户端连接数到达限制时，Redis会关闭新的连接并向客户端返回max number of clients reached错误信息
maxclients 128
17. 指定Redis最大内存限制，Redis在启动时会把数据加载到内存中，达到最大内存后，Redis会先尝试清除已到期或即将到期的Key，当此方法处理 后，仍然到达最大内存设置，将无法再进行写入操作，但仍然可以进行读取操作。Redis新的vm机制，会把Key存放内存，Value会存放在swap区
maxmemory <bytes>
18. 指定是否在每次更新操作后进行日志记录，Redis在默认情况下是异步的把数据写入磁盘，如果不开启，可能会在断电时导致一段时间内的数据丢失。因为 redis本身同步数据文件是按上面save条件来同步的，所以有的数据会在一段时间内只存在于内存中。默认为no
appendonly no
19. 指定更新日志文件名，默认为appendonly.aof
appendfilename appendonly.aof
20. 指定更新日志条件，共有3个可选值：
no：表示等操作系统进行数据缓存同步到磁盘（快）
always：表示每次更新操作后手动调用fsync()将数据写到磁盘（慢，安全）
everysec：表示每秒同步一次（折衷，默认值）
appendfsync everysec
21. 指定是否启用虚拟内存机制，默认值为no，简单的介绍一下，VM机制将数据分页存放，由Redis将访问量较少的页即冷数据swap到磁盘上，访问多的页面由磁盘自动换出到内存中（在后面的文章我会仔细分析Redis的VM机制）
vm-enabled no
22. 虚拟内存文件路径，默认值为/tmp/redis.swap，不可多个Redis实例共享
vm-swap-file /tmp/redis.swap
23. 将所有大于vm-max-memory的数据存入虚拟内存,无论vm-max-memory设置多小,所有索引数据都是内存存储的(Redis的索引数据 就是keys),也就是说,当vm-max-memory设置为0的时候,其实是所有value都存在于磁盘。默认值为0
vm-max-memory 0
24. Redis swap文件分成了很多的page，一个对象可以保存在多个page上面，但一个page上不能被多个对象共享，vm-page-size是要根据存储的 数据大小来设定的，作者建议如果存储很多小对象，page大小最好设置为32或者64bytes；如果存储很大大对象，则可以使用更大的page，如果不 确定，就使用默认值
vm-page-size 32
25. 设置swap文件中的page数量，由于页表（一种表示页面空闲或使用的bitmap）是在放在内存中的，，在磁盘上每8个pages将消耗1byte的内存。
vm-pages 134217728
26. 设置访问swap文件的线程数,最好不要超过机器的核数,如果设置为0,那么所有对swap文件的操作都是串行的，可能会造成比较长时间的延迟。默认值为4
vm-max-threads 4
27. 设置在向客户端应答时，是否把较小的包合并为一个包发送，默认为开启
glueoutputbuf yes
28. 指定在超过一定的数量或者最大的元素超过某一临界值时，采用一种特殊的哈希算法
hash-max-zipmap-entries 64
hash-max-zipmap-value 512
29. 指定是否激活重置哈希，默认为开启（后面在介绍Redis的哈希算法时具体介绍）
activerehashing yes
30. 指定包含其它的配置文件，可以在同一主机上多个Redis实例之间使用同一份配置文件，而同时各个实例又拥有自己的特定配置文件
include /path/to/local.conf
Redis内存淘汰策略
六种淘汰策略
noeviction：当内存使用达到阈值的时候，执行命令直接报错。(默认)
allkeys-lru：在所有的key中，优先移除最近未使用的key。(推荐)
volatile-lru：在设置了过期时间的键空间中，优先移除最近未使用的key。
allkeys-random：在所有的key中，随机移除某个key。
volatile-random：在设置了过期时间的键空间中，随机移除某个key。
volatile-ttl：在设置了过期时间的键空间中，具有更早过期时间的key优先移除。
配置Redis淘汰策略
# 默认为noeviction
maxmemory-policy volatile-lru
maxmemory-policy volatile-lru
Redis中的自动过期机制
开启事件回调监听
修改配置文件开启回调监听： notify-keyspace-events Ex
Redis的应用场景
Token令牌的生成
短信验证码Cod
缓存查询数据(减轻数据库压力、但是存在数据不同步的问题)
网页计数器
分布式锁
延迟操作(秒杀抢购的时候，超时未支付)
分布式消息中间件
发布订阅
排行榜
使用Redis提供的有序集合数据结构能方便的实现各种复杂的排行榜
最新列表
Redis列表LIST结构，LPUSH可以在列表头部插入一个内容ID作为关键字，LTRIM用来修建LIST以限制LIST的长度，这样列表永远为N个ID，无需查询最新的列表，直接根据ID去到对应的内容页即可
分布式Session
可以使用Redis做session管理，以实现分布式下的session共享
社交网络
点赞、踩、关注/被关注、共同好友等是社交网站的基本功能，社交网站的访问量通常来说比较大，而且传统的关系数据库类型不适合存储这种类型的数据，Redis提供的哈希、集合等数据结构能很方便的的实现这些功能。
Redis数据结构
String
Hash
List
Set
sorted set
Redis持久化
RDB(全量同步)默认开启
如何配置
#dbfilename：持久化数据存储在本地的文件
dbfilename dump.rdb
#dir：持久化数据存储在本地的路径，如果是在/redis/redis-3.0.6/src下启动的redis-cli，则数据会存储在当前src目录下
dir ./
#配置定时执行策略
save 900 1
save 300 10
save 60 10000
##当snapshot时出现错误无法继续时，是否阻塞客户端“变更操作”，“错误”可能因为磁盘已满/磁盘故障/OS级别异常等
stop-writes-on-bgsave-error yes
##是否启用rdb文件压缩，默认为“yes”，压缩往往意味着“额外的cpu消耗”，同时也意味这较小的文件尺寸以及较短的网络传输时间
rdbcompression yes
dbfilename dump.rdb
#dir：持久化数据存储在本地的路径，如果是在/redis/redis-3.0.6/src下启动的redis-cli，则数据会存储在当前src目录下
dir ./
#配置定时执行策略
save 900 1
save 300 10
save 60 10000
##当snapshot时出现错误无法继续时，是否阻塞客户端“变更操作”，“错误”可能因为磁盘已满/磁盘故障/OS级别异常等
stop-writes-on-bgsave-error yes
##是否启用rdb文件压缩，默认为“yes”，压缩往往意味着“额外的cpu消耗”，同时也意味这较小的文件尺寸以及较短的网络传输时间
rdbcompression yes
save 900 1 # 在900秒(15分钟)之后，如果至少有1个key发生变化，则dump内存快照。
save 300 10 # 在300秒(5分钟)之后，如果至少有10个key发生变化，则dump内存快照。
save 60 10000 # 在60秒(1分钟)之后，如果至少有10000个key发生变化，则dump内存快照。
save 300 10 # 在300秒(5分钟)之后，如果至少有10个key发生变化，则dump内存快照。
save 60 10000 # 在60秒(1分钟)之后，如果至少有10000个key发生变化，则dump内存快照。
如何恢复
将备份文件 (dump.rdb) 移动到 redis 安装目录并启动服务即可
如何停止
redis-cli config set save ""
优点
使用单独子进程来进行持久化，主进程不会进行任何IO 操作，保证了 redis 的高性能，适合大规模的数据恢复，对数据完整性和一致性要求不高。
缺点
RDB 是间隔一段时间进行持久化，如果持久化之间 redis 发生故障，会发生数据丢失。所以这种方式更适合数据要求不严谨的时候，Fork的时候，内存中的数据被克隆了一份，大致2倍的膨胀性需要考虑但上述成立有条件，Linux也有优化手段在 Linux 程序中， fork() 会产生一个和父进程完全相同的子进程，但子进程在此后多会 exec 系统调用，出于效率考虑，尽量避免膨胀。
Linux 中引入了“写时复制技术”， 一般情况父进程和子进程会共用同一段物理内存 ，只有进程空间的各段的内容要发生变化时，才会将父进程的内容复制一份给子进程，。
总结
AOF(增量同步)
三种同步方式
appendfsync always #每次有数据修改发生时都会写入AOF文件，能够保证数据不丢失，但是效率非常低。
appendfsync everysec #每秒钟同步一次，可能会丢失1s内的数据，但是效率非常高。
appendfsync no #从不同步。高效但是数据不会被持久化。
配置使用
##此选项为aof功能的开关，默认为“no”，可以通过“yes”来开启aof功能
##只有在“yes”下，aof重写/文件同步等特性才会生效
appendonly yes
##指定aof文件名称
appendfilename appendonly.aof
##指定aof操作中文件同步策略，有三个合法值：always everysec no,默认为everysec
appendfsync everysec
##在aof-rewrite期间，appendfsync是否暂缓文件同步，"no"表示“不暂缓”，“yes”表示“暂缓”，默认为“no”
no-appendfsync-on-rewrite no
##aof文件rewrite触发的最小文件尺寸(mb,gb),只有大于此aof文件大于此尺寸是才会触发rewrite，默认“64mb”，建议“512mb”
auto-aof-rewrite-min-size 64mb
##相对于“上一次”rewrite，本次rewrite触发时aof文件应该增长的百分比。
##每一次rewrite之后，redis都会记录下此时“新aof”文件的大小(例如A)，那么当aof文件增长到A*(1 + p)之后
##触发下一次rewrite，每一次aof记录的添加，都会检测当前aof文件的尺寸。
auto-aof-rewrite-percentage 100
##只有在“yes”下，aof重写/文件同步等特性才会生效
appendonly yes
##指定aof文件名称
appendfilename appendonly.aof
##指定aof操作中文件同步策略，有三个合法值：always everysec no,默认为everysec
appendfsync everysec
##在aof-rewrite期间，appendfsync是否暂缓文件同步，"no"表示“不暂缓”，“yes”表示“暂缓”，默认为“no”
no-appendfsync-on-rewrite no
##aof文件rewrite触发的最小文件尺寸(mb,gb),只有大于此aof文件大于此尺寸是才会触发rewrite，默认“64mb”，建议“512mb”
auto-aof-rewrite-min-size 64mb
##相对于“上一次”rewrite，本次rewrite触发时aof文件应该增长的百分比。
##每一次rewrite之后，redis都会记录下此时“新aof”文件的大小(例如A)，那么当aof文件增长到A*(1 + p)之后
##触发下一次rewrite，每一次aof记录的添加，都会检测当前aof文件的尺寸。
auto-aof-rewrite-percentage 100
数据恢复
将有数据的aof文件复制一份保存到对应目录(config get dir)重起redis
优点
可以保持更高的数据完整性，如果设置追加file 的时间是 1s，如果 redis 发生故障，最多会丢失 1s 的数据；且如果日志写入不完整支持 redis-check-aof 来进行日志修复；AOF 文件没被 rewrite 之前（文件过大时会对命令进行合并重写），可以删除其中的某些命令（比如误操作的 flushall）。
缺点
AOF 文件比 RDB 文件大，且恢复速度慢。
总结
RDB与AOF同步的区别
Redis事务
如何使用
编译型异常事务中的所有命令都不会被执行(全体连坐)
运行时异常事务中的逻辑错误命令不会被执行,其他命令正常执行
Watch 监听
银行信用卡可用余额问题
取消事务跟回滚区别
redis集群安装
Redis主从复制
主节点可以进行写操作，所有从节点都不允许进行写操作
动态主从
静态主从
主从复制优化（薪火相传）
如果从节点很多，一个数据存储就会通知很多从节点效率很低，可以采取树状形式配置
主从复制数据同步的过程
反客为主
命令：SLAVEOF no one
缺陷
如果主节点存在了问题，整个Redis环境是不可以实现写的操作，需要人工更改配置变为主操作
Redis哨兵机制
原理解释
原理
哨兵如何判断是否为同一个集群
如何发现故障
Master的故障发现 单个哨兵会向主的master节点发送ping的命令，如果master节点没有及时的响应，哨兵会认为该master节点为“主观不可用状态”会发送给其他都哨兵确认该Master节点是否不可用，当前确认的哨兵节点数>=quorum(可配置)，会实现重新选举。
实现配置
缺点
每个节点都保存相同的同步的数据，可能会存在冗余的数据；其次只能允许有一个主的节点，属于中心化集群。
Redis Cluster集群
Redis Cluster模式中集群中采用分片集群模式，可以减少冗余数据，缺点就是构建该集群模式成本非常高，
RedisCluster集群的原理
环境搭建
创建目录
修改配置文件(每个服务)
启动
分配卡槽
连接
节点扩容
新建两个节点
加入集群（任意一台即可）
添加master节点
添加从节点
分配Redis槽位扩容（任意一台即可）
节点缩容
实际应用示例
Springboot集成
基础使用
添加依赖
参数配置
测试访问
redis存储对象类型
添加依赖
对象实体
实现序列化接口
redis配置类
自定义连接地址
不自定义连接地址
测试代码
使用事务
SpringBoot2.0通过lettuce和jedis集成redis区别
lettuce集成(springboot2.x默认方式)
添加依赖
配置文件
自定义 RedisTemplate
定义测试实体类
测试使用
jedis集成
添加依赖
配置文件
配置 JedisConnectionFactory
Redisson操作redis
添加依赖
使用 RList 操作 Redis 列表
使用 RMap 操作 Redis 哈希
使用 RLock 实现 Redis 分布式锁
使用 RAtomicLong 实现 Redis 原子操作
应用：处理订单过期自动取消，比如下单30分钟未支付自动更改订单状态
实现方案1
1. 使用Redis Key自动过期出发事件通知
2. 使用定时任务30分钟后检查
3. 按照每分钟轮训检查
2. 使用定时任务30分钟后检查
3. 按照每分钟轮训检查
实现方案2
根据key有效期事件回调实现
原理
代码实现
开启事件回调监听
修改配置文件开启回调监听： notify-keyspace-events Ex
配置类
监听类
接口类
实体类
Mapper接口
Redis实现分布式锁
基于setnx
原理
获取锁
多个不同的jvm 同时创建一个相同的标记使用Setnx命令，因为Rediskey必须保证是唯一的，只要谁能够创建成功谁就能够获取锁
释放锁
对我们的redis的key设置一个有效期（或者是主动删除该key）可以灵活的自动的释放该全局唯一的标记，其他的jvm重新进入到获取锁资源。
超时锁（没有获取锁、已经获取锁）
等待获取锁的超时时间
已经获取到锁 锁的有效期 5s
代码实现(单机版本)
依赖
工具类
获取释放锁工具类
使用分布式锁
如果我们业务逻辑5s内没有执行完毕呢？
锁的超时时间根据业务场景来预估
可以自己延迟锁的时间
在提交事务的时候检查锁是否已经超时 如果已经超时则回滚（手动回滚）否则提交。(推荐)
与Zookeeper实现分布式锁比较
相同点
在集群环境下，保证只允许有一个jvm进行执行
区别
实现方式
性能
因为Redis是NoSQL数据库,相对比来说Redis比Zookeeper性能要好。
可靠性
从可靠性角度分析, Zookeeper可靠性比Redis更好。因为Redis有效期不是很好控制,可能会产生有效期延迟, Zookeeper就不一样,因为Zookeeper临时节点先天性可控的有效期,所以相对来说Zookeeper比Redis更好
0 条评论
下一页
