导图社区 Redis
Redis(Remote Dictionary Server ),即远程字典服务,是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。
编辑于2022-09-26 20:52:58 四川省listener 音标['lisnә] 读音 汉语翻译 n. 收听者, 听众 英语解释: 名词listener: someone who listens attentively 同义词:hearer, auditor, attender
Filter过滤器(重要) Javaweb中的过滤器可以拦截所有访问web资源的请求或响应操作。 1、Filter快速入门 1.1、步骤: 1. 创建一个类实现Filter接口 2. 重写接口中方法 d...
会话的解释 [conversation] 指两人以上的对话(多用于学习别种语言或方言时) 详细解释 (1).聚谈;对话。现多用于学习别种语言或方言时
社区模板帮助中心,点此进入>>
listener 音标['lisnә] 读音 汉语翻译 n. 收听者, 听众 英语解释: 名词listener: someone who listens attentively 同义词:hearer, auditor, attender
Filter过滤器(重要) Javaweb中的过滤器可以拦截所有访问web资源的请求或响应操作。 1、Filter快速入门 1.1、步骤: 1. 创建一个类实现Filter接口 2. 重写接口中方法 d...
会话的解释 [conversation] 指两人以上的对话(多用于学习别种语言或方言时) 详细解释 (1).聚谈;对话。现多用于学习别种语言或方言时
Redis
介绍
问题现象
当用户比较多,并发量比较高时会造成服务器瘫痪。核心原因并非服务器,关系型数据库才是最终的罪魁祸首!
原因
性能瓶颈:磁盘IO性能低下
扩展瓶颈:数据关系复杂,扩展性差,不便于大规模集群
解决思路
降低磁盘IO次数,越低越好
内存存储
去除数据间关系,越简单越好
不存关系只存数据
NoSQL
NoSQL:即 Not-Only SQL( 泛指非关系型的数据库),作为关系型数据库的补充
作用
应对基于海量用户和海量数据前提下的数据处理问题
特征
可扩容,可伸缩
大数据量下高性能
灵活的数据模型、高可用
常见 Nosql 数据库
Redis
HBase
MongoDB
应用场景(电商为例)
Redis
Redis (REmote DIctionary Server) 是用 C 语言开发的一个开源的高性能键值对(key-value)数据库
特征
高性能
数据间没有必然的关联关系
内部采用单线程机制进行工作
多数据类型支持
字符串类型
列表类型
散列类型
集合类型
有序集合类型
zset/sorted_set
支持持久化,可以进行数据灾难恢复
应用场景
为热点数据加速查询(主要场景)
如热点商品、热点新闻、热点资讯、推广类等高访问量信息等
即时信息查询
如各位排行榜、各类网站访问统计、公交到站信息、在线人数信息(聊天室、网站)、设备信号等
时效性信息控制
如验证码控制、投票控制等
分布式数据共享
如分布式集群架构中的 session 分离消息队列
前期准备基于CentOS 7
下载
下载安装包
wget http://download.redis.io/releases/redis-5.0.0.tar.gz
解压安装包
tar –xvf redis-5.0.0.tar.gz
编译(在解压的目录中执行)
make
安装(在解压的目录中执行)
make install
安装
redis-server
服务器启动命令
redis-cli
客户端启动命令
redis.conf
redis核心配置文件
redis-check-dump
RDB文件检查工具(快照持久化文件)
redis-check-aof
AOF文件修复工具
启动
服务器启动
参数启动
redis-server [--port port]
redis-server --port 6379
默认
配置文件启动
redis-server config_file_name
redis-server redis.conf
客户端启动
redis-cli [-h host] [-p port]
redis-cli –h 61.129.65.248 –p 6384
注意
服务器启动指定端口使用的是--port,客户端启动指定端口使用的是-p。-的数量不同。
基础环境设置约定
创建配置文件存储目录
mkdir conf
创建服务器文件存储目录(包含日志、数据、临时配置文件等)
mkdir data
创建快速访问链接
ln -s redis-5.0.0 redis
配置文件启动与设置
服务器端配置
设置服务器以守护进程的方式运行,开启后服务器控制台中将打印服务器运行信息(同日志内容相同)
daemonize yes|no
绑定主机地址
bind ip
设置服务器端口
port port
设置服务器文件保存地址
dir path
客户端配置
服务器允许客户端连接最大数量,默认0,表示无限制。当客户端连接到达上限后,Redis会拒绝新的连接
maxclients count
客户端闲置等待最大时长,达到最大值后关闭对应连接。如需关闭该功能,设置为 0
timeout seconds
日志配置
设置服务器以指定日志记录级别
loglevel debug|verbose|notice|warning
日志记录文件名
logfile filename
注意
日志级别开发期设置为verbose即可,生产环境中配置为notice,简化日志输出量,降低写日志IO的频度
基本操作
信息读写
设置 key,value 数据
set key value
set name itheima
根据 key 查询对应的 value,如果不存在,返回空(nil)
get key
get name
帮助信息
获取命令帮助文档
help [command]
help set
获取组中所有命令信息名称
help [@group-name]
help @string
退出命令行客户端模式
退出客户端
exit
quit
快捷键
Ctrl+C
清屏
clear
数据类型
介绍
业务数据的特殊性
原始业务功能设计
秒杀
618活动、双11活动
12306购票
运营平台监控到的突发高频访问数据
突发时政要闻
高频、复杂的统计数据
在线人数
投票排行榜
常用数据类型
字符串类型
string
列表类型
list
散列类型
hash
集合类型
set
有序集合类型
zset/sorted_set
应用较低
Redis数据存储格式
redis 自身是一个 Map,其中所有的数据都是采用 key : value 的形式存储
前面这一部分称为key。后面的一部分称为value,而数据类型,一定是修饰value的。
数据类型指的是存储的数据的类型,也就是 value 部分的类型,key 部分永远都是字符串
string
介绍
存储的数据
单个数据,最简单的数据存储类型,也是最常用的数据存储类型
存储数据的格式
一个存储空间保存一个数据
存储内容
通常使用字符串,如果字符串以整数的形式展示,可以作为数字操作使用
一个key对一个value,而这个itheima就是string类型,当然它也可以是一个纯数字的格式
操作
基础指令
添加/修改数据
set key value
添加/修改多个数据
mset key1 value1 key2 value2 …
m:Multiple
判定性添加数据
setnx key value
结果为0表失败,结果为1表成功
key不存在才能添加成功
获取数据
get key
获取多个数据
mget key1 key2 …
m:Multiple
删除数据
del key
获取数据字符个数(字符串长度)
strlen key
追加信息到原始信息后部(如果原始信息存在就追加,否则新建)
append key value
补充
单数据操作与多数据操作
当影响的数据比较少的时候,可以用单指令,也可以用多指令。但是一旦这个量大了,就要选择多指令了,效率会高一些
扩展指令
设置数值数据增加指定范围的值
incr key
每次加一
incrby key increment
每次加increment
incrbyfloat key increment
对小数
设置数值数据减少指定范围的值
decr key
每次减一
decrby key increment
每次减increment
设置数据具有指定的生命周期
setex key seconds value
设置存活时间,单位秒
psetex key milliseconds value
设置存活时间,单位毫秒
注意事项
数据操作不成功的反馈与数据正常操作之间的差异
表示运行结果是否成功
(integer) 0 → false
失败
(integer) 1 → true
成功
表示运行结果值
(integer) 3 → 3
3个
(integer) 1 → 1
1个
数据未获取到时,对应的数据为(nil),等同于null
数据最大存储量:512MB
string在redis内部存储默认就是一个字符串,当遇到增减类操作incr,decr时会转成数值型进行计算
按数值进行操作的数据,如果原始数据不能转成数值,或超越了redis 数值上限范围,将报错9223372036854775807(java中Long型数据最大值,Long.MAX_VALUE)
redis所有的操作都是原子性的,采用单线程处理所有业务,命令是一个一个执行的,因此无需考虑并发带来的数据影响
应用场景
string主要应用于主页高频访问信息显示控制
例子
新浪微博大V主页显示粉丝数与微博数量
解决
在redis中为大V用户设定用户信息,以用户主键和属性值作为key,后台设定定时刷新策略即可
json
数据库中的热点数据key命名惯例
hash
介绍
新的存储需求
对一系列存储的数据进行编组,方便管理,典型应用存储对象信息
需要的存储结构
一个存储空间保存多个键值对数据
hash类型
底层使用哈希表结构实现数据存储
这种结构叫做hash,左边一个key,对右边一个存储空间。右边这块儿存储空间叫hash,也就是说hash是指的一个数据类型,指的不是一个数据,是这里边的一堆数据,它底层是用hash表的结构来实现的
注意
如果field数量较少,存储结构优化为类数组结构
如果field数量较多,存储结构使用HashMap结构
操作
基本指令
添加/修改数据
hset key field value
添加/修改多个数据
hmset key field1 value1 field2 value2 …
获取数据
hget key field
hgetall key
获取多个数据
hmget key field1 field2 …
删除数据
hdel key field1 [field2]
设置field的值,如果该field存在则不做任何操作
hsetnx key field value
获取哈希表中字段的数量
hlen key
获取哈希表中是否存在指定的字段
hexists key field
扩展指令
获取哈希表中所有的字段名或字段值
hkeys key
字段名
hvals key
字段值
设置指定字段的数值数据增加或减少指定范围的值
hincrby key field increment
increment设置为负数则为减
hincrbyfloat key field increment
increment设置为负数则为减
注意事项
hash类型中value只能存储字符串,不允许存储其他数据类型,不存在嵌套现象。如果数据未获取到,对应的值为(nil)
每个 hash 可以存储 2^32 - 1 个键值对
hash类型十分贴近对象的数据存储形式,并且可以灵活添加删除对象属性。但hash设计初衷不是为了存储大量对象而设计的,切记不可滥用,更不可以将hash作为对象列表使用
hgetall 操作可以获取全部属性,如果内部field过多,遍历整体数据效率就很会低,有可能成为数据访问瓶颈
应用场景
例子
双11活动日,销售手机充值卡的商家对移动、联通、电信的30元、50元、100元商品推出抢购活动,每种商品抢购上限1000 张
解决
以商家id作为key,将参与抢购的商品id作为field,将参与抢购的商品数量作为对应的value,抢购时使用降值的方式控制产品数量
实际业务中还有超卖等实际问题,这里不做讨论
list
介绍
数据存储需求
存储多个数据,并对数据进入存储空间的顺序进行区分
需要的存储结构
一个存储空间保存多个数据,且通过数据可以体现进入顺序
list类型
保存多个数据,底层使用双向链表存储结构实现
操作
基本指令
添加/修改数据
lpush key value1 [value2] ……
rpush key value1 [value2] ……
获取数据
lrange key start stop
start、stop是起止索引位置
获取并移除数据
lpop key
rpop key
获取对应索引位置
lindex key index
获取长度
llen key
扩展指令
移除指定数据
lrem key count value
count指移除数量
规定时间内获取并移除数据
blpop key1 [key2] timeout
brpop key1 [key2] timeout
brpoplpush source destination timeout
从source取然后存入destination
注意事项
list中保存的数据都是string类型的,数据总容量是有限的,最多2^32 - 1 个元素(4294967295)
list具有索引的概念,但是操作数据时通常以队列的形式进行入队出队操作,或以栈的形式进行入栈出栈操作
获取全部数据操作结束索引设置为-1
list可以对数据进行分页操作,通常第一页的信息来自于list,第2页及更多的信息通过数据库的形式加载
应用场景
例子
企业运营过程中,系统将产生出大量的运营数据,如何保障多台服务器操作日志的统一顺序输出
解决
依赖list的数据具有顺序的特征对信息进行管理
使用队列模型解决多路信息汇总合并的问题
使用栈模型解决最新消息的问题
set
介绍
新的存储需求
存储大量的数据,在查询方面提供更高的效率
需要的存储结构
能够保存大量的数据,高效的内部存储机制,便于查询
set类型
与hash存储结构完全相同,仅存储键,不存储值(nil),并且值是不允许重复的
操作
基本指令
添加数据
sadd key member1 [member2]
获取全部数据
smembers key
删除数据
srem key member1 [member2]
获取集合数据总量
scard key
判断集合中是否包含指定数据
sismember key member
随机获取集合中指定数量的数据
srandmember key [count]
随机获取集中的某个数据并将该数据移除集合
spop key [count]
扩展指令
求两个集合的交、并、差集
sinter key1 [key2 …]
sunion key1 [key2 …]
sdiff key1 [key2 …]
求两个集合的交、并、差集并存储到指定集合中
sinterstore destination key1 [key2 …]
sunionstore destination key1 [key2 …]
sdiffstore destination key1 [key2 …]
将指定数据从原始集合中移动到目标集合中
smove source destination member
补充
注意事项
set 类型不允许数据重复,如果添加的数据在 set 中已经存在,将只保留一份
set 虽然与hash的存储结构相同,但是无法启用hash中存储值的空间
应用场景
例子
黑名单
资讯类信息类网站追求高访问量,但是由于其信息的价值,往往容易被不法分子利用,通过爬虫技术, 快速获取信息,个别特种行业网站信息通过爬虫获取分析后,可以转换成商业机密进行出售。例如第三方火 车票、机票、酒店刷票代购软件,电商刷评论、刷好评
白名单
对于安全性更高的应用访问,仅仅靠黑名单是不能解决安全问题的,此时需要设定可访问的用户群体, 依赖白名单做更为苛刻的访问验证
解决
基于经营战略设定问题用户发现、鉴别规则
周期性更新满足规则的用户黑名单,加入set集合
用户行为信息达到后与黑名单进行比对,确认行为去向
黑名单过滤IP地址:应用于开放游客访问权限的信息源
黑名单过滤设备信息:应用于限定访问设备的信息源
黑名单过滤用户:应用于基于访问权限的信息源
常用指令
key
介绍
key是一个字符串,通过key获取redis中保存的数据
常用指令
基础
删除指定key
del key
获取key是否存在
exists key
0
1
获取key的类型
type key
排序
sort
改名
rename key newkey
renamenx key newkey
时效性控制
为指定key设置有效期
expire key seconds
pexpire key milliseconds
expireat key timestamp
pexpireat key milliseconds-timestamp
获取key的有效时间
ttl key
pttl key
切换key从时效性转换为永久性
persist key
查询模式
查询key
keys pattern
查询模式规则
*
匹配任意数量的任意符号
?
配合一个任意符号
[]
匹配一个指定符号
例子
keys *
查询所有
keys it*
查询所有以it开头
keys *heima
查询所有以heima结尾
keys ??heima
查询所有前面两个字符任意,后面以heima结尾
keys u[st]er:1
询所有以u开头,以er:1结尾,中间包含一个字母,s或t
数据库
介绍
key是由程序员,redis在使用过程中,伴随着操作数据量的增加,会出现大量的数据以及对应的key,数据不区分种类、类别混杂在一起,极易出现重复或中突
redis为每个服务提供有16个数据库编号从0到15,每个数据库之间的数据相互独立
在对应的数据库中划出一块区域,说他就是几,你就用几那块,同时,其他的这些都可以进行定义,一共是16个,这里边需要注意一点,他们这16个共用redis的内存。没有说谁大谁小,也就是说数字只是代表了一块儿区域,区域具体多大未知。这是数据库的一个分区的一个策略!
常用指令
切换数据库
select index
默认0号
服务器是否连通
ping
pong:连通
数据移动
move key db
数据总量
dbsize
数据清除
flushdb
清除当前库
flushall
全部清除
Jedis
介绍
Jedis用于Java语言连接redis服务,并提供对应的操作API
API文档
http://xetorthio.github.io/jedis/
前期准备
jar包导入
下载
https://mvnrepository.com/artifact/redis.clients/jedis
maven
<dependency><groupId>redis.clients</groupId><artifactId>jedis</artifactId><version>2.9.0</version></dependency>
基本操作
连接redis
Jedis jedis = new Jedis("localhost", 6379);
操作redis
jedis.set("name", "itheima");
jedis.get("name");
注意
方法名与redis操作基本一致,注意返回值即可
关闭redis连接
jedis.close();
简易工具类JedisUtils
基于连接池获取连接
JedisPool
Jedis提供的连接池技术
poolConfig
连接池配置对象
host
redis服务地址
port
redis服务端口号
封装连接参数
jedis.properties
加载配置信息
静态代码块初始化资源
获取连接
对外访问接口,提供jedis连接对象,连接从连接池获取
可视化客户端
Redis Desktop Manager
持久化
介绍
将文件由内存中保存到硬盘中的这个过程,叫做数据保存,也就叫做持久化。将硬盘的数据再读取出来,加载到内存中这个过程叫做数据恢复
利用永久性存储介质将数据进行保存,在特定的时间将保存的数据进行恢复的工作机制称为持久化 。持久化用于防止数据的意外丢失,确保数据安全性。
持久化方式
快照存储
保存的是某一时刻的数据状态
将当前数据状态进行保存,快照形式,存储数据结果,存储格式简单,关注点在数据
日志存储
保存所有的操作过程
将数据的操作过程进行保存,日志形式,存储操作过程,存储格式复杂,关注点在数据的操作过程
RDB
介绍
RDB是Redis进行快照存储的一种方式
启动RDB
常用方式
save指令
bgsave指令
save配置自动执行
特殊方式
服务器运行过程中重启
debug reload
关闭服务器时指定保存数据
shutdown save
全量复制
优点
RDB是一个紧凑压缩的二进制文件,存储效率较高
RDB内部存储的是redis在某个时间点的数据快照,非常适合用于数据备份,全量复制等场景
RDB恢复数据的速度要比AOF快很多
缺点
RDB方式无论是执行指令还是利用配置,无法做到实时持久化,具有较大的可能性丢失数据
bgsave指令每次运行要执行fork操作创建子进程,要牺牲掉一些性能
Redis的众多版本中未进行RDB文件格式的版本统一,有可能出现各版本服务之间数据格式无法兼容现象
宕机带来的数据丢失风险
应用
服务器中每X小时执行bgsave备份,并将RDB文件拷贝到远程机器中,用于灾难恢复
save指令
手动执行一次保存操作
save
相关配置
设置本地数据库文件名,默认值为 dump.rdb,通常设置为dump-端口号.rdb
dbfilename filename
设置存储.rdb文件的路径,通常设置成存储空间较大的目录中,目录名称data
dir path
设置存储至本地数据库时是否压缩数据,默认yes,设置为no,节省 CPU 运行时间,但存储文件变大
rdbcompression yes|no
设置读写文件过程是否进行RDB格式校验,默认yes,设置为no,节约读写10%时间消耗,单存在数据损坏的风险
rdbchecksum yes|no
工作原理
Save指令的执行会阻塞当前Redis服务器,直到当前RDB过程完成为止,有可能会造成长时间阻塞,线上环境不建议使用
bgsave指令
介绍
bgsave指令,bg其实是background的意思,后台执行的意思
手动启动后台保存操作,但不是立即执行
bgsave
相关配置
后台存储过程中如果出现错误现象,是否停止保存操作,默认yes
stop-writes-on-bgsave-error yes|no
设置本地数据库文件名,默认值为 dump.rdb,通常设置为dump-端口号.rdb
dbfilename filename
设置存储.rdb文件的路径,通常设置成存储空间较大的目录中,目录名称data
dir path
设置存储至本地数据库时是否压缩数据,默认yes,设置为no,节省 CPU 运行时间,但存储文件变大
rdbcompression yes|no
设置读写文件过程是否进行RDB格式校验,默认yes,设置为no,节约读写10%时间消耗,单存在数据损坏的风险
rdbchecksum yes|no
工作原理
bgsave命令是针对save阻塞问题做的优化。Redis内部所有涉及到RDB操作都采用bgsave的方式,save命令可以放弃使用
save配置自动执行
设置自动持久化的条件,满足限定时间范围内key的变化数量达到指定数量即进行持久化
save second changes
second
监控时间范围
changes
监控key的变化量
例子
save 300 10
300秒内有10个key发生变化就存入
save 60 10000
60秒内有10000个key发生变化就存入
相关配置
后台存储过程中如果出现错误现象,是否停止保存操作,默认yes
stop-writes-on-bgsave-error yes|no
设置本地数据库文件名,默认值为 dump.rdb,通常设置为dump-端口号.rdb
dbfilename filename
设置存储.rdb文件的路径,通常设置成存储空间较大的目录中,目录名称data
dir path
设置存储至本地数据库时是否压缩数据,默认yes,设置为no,节省 CPU 运行时间,但存储文件变大
rdbcompression yes|no
设置读写文件过程是否进行RDB格式校验,默认yes,设置为no,节约读写10%时间消耗,单存在数据损坏的风险
rdbchecksum yes|no
工作原理
save配置要根据实际业务情况进行设置,频度过高或过低都会出现性能问题,结果可能是灾难性的
save配置启动后执行的是bgsave操作
三种启动方式对比
AOF
介绍
AOF(append only file)持久化:以独立日志的方式记录每次写命令,重启时再重新执行AOF文件中命令 达到恢复数据的目的。与RDB相比可以简单理解为由记录数据改为记录数据产生的变化
AOF的主要作用是解决了数据持久化的实时性,目前已经是Redis持久化的主流方式
AOF写数据过程
启动AOF相关配置
开启AOF持久化功能,默认no,即不开启状态
appendonly yes|no
AOF持久化文件名,默认文件名为appendonly.aof,建议配置为appendonly-端口号.aof
appendfilename filename
AOF持久化文件保存路径,与RDB持久化文件保持一致即可
dir
AOF写数据策略,默认为everysec
appendfsync always|everysec|no
执行策略(appendfsync)
always(每次)
每次写入操作均同步到AOF文件中
数据零误差,性能较低,不建议使用
everysec(每秒)
每秒将缓冲区中的指令同步到AOF文件中,在系统突然宕机的情况下丢失1秒内的数据
数据准确性较高,性能较高,建议使用,也是默认配置
no(系统控制)
由操作系统控制每次同步到AOF文件的周期
整体过程不可控
AOF重写
介绍
随着命令不断写入AOF,文件会越来越大,为了解决这个问题,Redis引入了AOF重写机制压缩文件体积
AOF文件重写是将Redis进程内的数据转化为写命令同步到新AOF文件的过程。简单说就是将对同一个数据的若干个条命令执行结 果转化成最终结果数据对应的指令进行记录
重写作用
降低磁盘占用量,提高磁盘利用率
提高持久化效率,降低持久化写时间,提高IO性能
降低数据恢复用时,提高数据恢复效率
重写规则
进程内具有时效性的数据,并且数据已超时将不再写入文件
非写入类的无效指令将被忽略,只保留最终数据的写入命令
对同一数据的多条写命令合并为一条命令
重写方式
手动
指令
bgrewriteaof
原理
自动
触发条件设置
auto-aof-rewrite-min-size size
auto-aof-rewrite-percentage percentage
自动重写触发比对参数( 运行指令info Persistence获取具体信息 )
aof_current_size
aof_base_size
自动重写触发条件公式
流程
AOF工作流程
AOF重写流程
RDB与AOF区别
应用场景
对数据非常敏感,建议使用默认的AOF持久化方案
数据呈现阶段有效性,建议使用RDB持久化方案
综合
RDB与AOF的选择实际上是在做一种权衡,每种都有利有弊
如不能承受数分钟以内的数据丢失,对业务数据非常敏感,选用AOF
如能承受数分钟以内的数据丢失,且追求大数据集的恢复速度,选用RDB
灾难恢复选用RDB
双保险策略,同时开启 RDB和 AOF,重启后,Redis优先使用 AOF 来恢复数据,降低丢失数据的量
主题