写点什么

学会这 15 点,让你分分钟拿下 Redis 数据库

用户头像
民工哥
关注
发布于: 33 分钟前
学会这15点,让你分分钟拿下Redis数据库

1、Redis 简介


REmote DIctionary Server(Redis) 是一个由 Salvatore Sanfilippo 写的 key-value 存储系统。Redis 是一个开源的使用 ANSI C 语言编写、遵守 BSD 协议、支持网络、可基于内存可持久化的日志型、Key-Value 数据库,并提供多种语言的 API。它通常被称为数据结构服务器,因为值(value)可以是 字符串(String), 哈希(Map), 列表(list), 集合(sets) 和 有序集合(sorted sets)等类型。


大家都知道了 redis 是基于 key-value 的 no sql 数据库,因此,先来了解一下关于 key 相关的知识点


1、任何二进制的序列都可以作为 key 使用

2、Redis 有统一的规则来设计 key

3、对 key-value 允许的最大长度是 512MB


2、支持的语言


ActionScript Bash  C  C#  C++  Clojure Common LispCrystal  D  Dart  Elixir  emacs  lisp  Erlang  Fancy  gawk  GNU Prolog  Go  Haskell  Haxe  Io Java  Javascript  Julia  Lua  Matlab  mruby  Nim  Node.js  Objective-C  OCaml Pascal  Perl  PHP  Pure Data  Python  R  Racket  Rebol  Ruby  Rust Scala  Scheme  Smalltalk  Swift  Tcl  VB  VCL
复制代码


3、Redis 的应用场景到底有哪些??


1、最常用的就是会话缓存

2、消息队列,比如支付

3、活动排行榜或计数

4、发布、订阅消息(消息通知)

5、商品列表、评论列表


4、Redis 安装


关于 redis 安装与相关的知识点介绍请参考 Nosql数据库服务之redis


安装的大概步骤如下:


Redis 是 c 语言开发的,安装 redis 需要 c 语言的编译环境


如果没有 gcc 需要在线安装:yum install gcc-c++


第一步:获取源码包:wget http://download.redis.io/releases/redis-3.0.0.tar.gz

第二步:解压缩 redis:tar zxvf redis-3.0.0.tar.gz

第三步:编译。进入 redis 源码目录(cd redis-3.0.0)。执行 make

第四步:安装。make install PREFIX=/usr/local/redis

#PREFIX 参数指定 redis 的安装目录


5、Redis 数据类型


Redis 一共支持五种数据类型


1、string(字符串)

2、hash(哈希)

3、list(列表)

4、set(集合)

5、zset(sorted set 有序集合)


string(字符串)


它是 redis 最基本的数据类型,一个 key 对应一个 value,需要注意是一个键值最大存储 512MB。


127.0.0.1:6379> set key "hello world"OK127.0.0.1:6379> get key"hello world"127.0.0.1:6379> getset key "nihao""hello world"127.0.0.1:6379> mset key1 "hi" key2 "nihao" key3 "hello"OK127.0.0.1:6379> get key1"hi"127.0.0.1:6379> get key2"nihao"127.0.0.1:6379> get key3"hello"
复制代码


相关命令介绍

set 为一个 Key 设置 value(值)

get 获得某个 key 对应的 value(值)

getset 为一个 Key 设置 value(值)并返回对应的值

mset 为多个 key 设置 value(值)


hash(哈希)


redis hash 是一个键值对的集合, 是一个 string 类型的 field 和 value 的映射表,适合用于存储对象


127.0.0.1:6379> hset redishash 1 "001"(integer) 1127.0.0.1:6379> hget redishash 1"001"127.0.0.1:6379> hmset redishash 1 "001" 2 "002"OK127.0.0.1:6379> hget redishash 1"001"127.0.0.1:6379> hget redishash 2"002"127.0.0.1:6379> hmget redishash 1 21) "001"2) "002"
复制代码


相关命令介绍

hset 将 Key 对应的 hash 中的 field 配置为 value,如果 hash 不存则自动创建,

hget 获得某个 hash 中的 field 配置的值

hmset 批量配置同一个 hash 中的多个 field 值

hmget 批量获得同一个 hash 中的多个 field 值


list(列表)


是 redis 简单的字符串列表,它按插入顺序排序


127.0.0.1:6379> lpush word  hi(integer) 1127.0.0.1:6379> lpush word  hello(integer) 2127.0.0.1:6379> rpush word  world(integer) 3127.0.0.1:6379> lrange word 0 21) "hello"2) "hi"3) "world"127.0.0.1:6379> llen word(integer) 3
复制代码


相关命令介绍

lpush 向指定的列表左侧插入元素,返回插入后列表的长度

rpush 向指定的列表右侧插入元素,返回插入后列表的长度

llen  返回指定列表的长度

lrange 返回指定列表中指定范围的元素值


set(集合)


是 string 类型的无序集合,也不可重复


127.0.0.1:6379> sadd redis redisset(integer) 1127.0.0.1:6379> sadd redis redisset1(integer) 1127.0.0.1:6379> sadd redis redisset2(integer) 1127.0.0.1:6379> smembers redis1) "redisset1"2) "redisset"3) "redisset2"127.0.0.1:6379> sadd redis redisset2(integer) 0127.0.0.1:6379> smembers redis1) "redisset1"2) "redisset"3) "redisset2"127.0.0.1:6379> smembers redis1) "redisset1"2) "redisset3"3) "redisset"4) "redisset2"127.0.0.1:6379> srem redis redisset(integer) 1127.0.0.1:6379> smembers redis1) "redisset1"2) "redisset3"3) "redisset2"
复制代码


相关命令介绍

sadd 添加一个 string 元素到 key 对应的 set 集合中,成功返回 1,如果元素存在返回 0

smembers 返回指定的集合中所有的元素

srem 删除指定集合的某个元素


zset(sorted set 有序集合)


是 string 类型的有序集合,也不可重复


sorted set 中的每个元素都需要指定一个分数,根据分数对元素进行升序排序,如果多个元素有相同的分数,则以字典序进行升序排序,sorted set 因此非常适合实现排名


127.0.0.1:6379> zadd nosql 0 001(integer) 1127.0.0.1:6379> zadd nosql 0 002(integer) 1127.0.0.1:6379> zadd nosql 0 003(integer) 1127.0.0.1:6379> zcount nosql 0 0 (integer) 3127.0.0.1:6379> zcount nosql 0 3(integer) 3127.0.0.1:6379> zrem nosql 002(integer) 1127.0.0.1:6379> zcount nosql 0 3(integer) 2127.0.0.1:6379> zscore nosql 003"0"127.0.0.1:6379> zrangebyscore nosql 0 101) "001"2) "003"127.0.0.1:6379> zadd nosql 1 003(integer) 0127.0.0.1:6379> zadd nosql 1 004(integer) 1127.0.0.1:6379> zrangebyscore nosql 0 101) "001"2) "003"3) "004"127.0.0.1:6379> zadd nosql 3 005(integer) 1127.0.0.1:6379> zadd nosql 2 006(integer) 1127.0.0.1:6379> zrangebyscore nosql 0 101) "001"2) "003"3) "004"4) "006"5) "005"
复制代码


相关命令介绍

zadd  向指定的 sorteset 中添加 1 个或多个元素

zrem  从指定的 sorteset 中删除 1 个或多个元素

zcount 查看指定的 sorteset 中指定分数范围内的元素数量

zscore 查看指定的 sorteset 中指定分数的元素

zrangebyscore 查看指定的 sorteset 中指定分数范围内的所有元素


6、键值相关的命令


127.0.0.1:6379> exists key(integer) 1127.0.0.1:6379> exists key1(integer) 1127.0.0.1:6379> exists key100(integer) 0127.0.0.1:6379> get key"nihao,hello"127.0.0.1:6379> get key1"hi"127.0.0.1:6379> del key1(integer) 1127.0.0.1:6379> get key1(nil)127.0.0.1:6379> rename key key0OK127.0.0.1:6379> get key(nil)127.0.0.1:6379> get key0"nihao,hello"127.0.0.1:6379> type key0string
复制代码


exists #确认 key 是否存在 del #删除 keyexpire #设置 Key 过期时间(单位秒)

persist      #移除 Key 过期时间的配置 rename #重命名 keytype #返回值的类型


7、Redis 服务相关的命令


127.0.0.1:6379> select 0OK127.0.0.1:6379> info# Serverredis_version:3.0.6redis_git_sha1:00000000redis_git_dirty:0redis_build_id:347e3eeef5029f3redis_mode:standaloneos:Linux 3.10.0-693.el7.x86_64 x86_64arch_bits:64multiplexing_api:epollgcc_version:4.8.5process_id:31197run_id:8b6ec6ad5035f5df0b94454e199511084ac6fb12tcp_port:6379uptime_in_seconds:8514uptime_in_days:0hz:10lru_clock:14015928config_file:/usr/local/redis/redis.conf-------------------省略N行127.0.0.1:6379> CONFIG GET 0(empty list or set)127.0.0.1:6379> CONFIG GET 15(empty list or set)
复制代码


slect **#选择数据库(数据库编号 0-15)**quit #退出连接 info #获得服务的信息与统计 monitor #实时监控 config get #获得服务配置 flushdb #删除当前选择的数据库中的 keyflushall #删除所有数据库中的 key


8、Redis 的发布与订阅


Redis 发布与订阅(pub/sub)是它的一种消息通信模式,一方发送信息,一方接收信息。


下图是三个客户端同时订阅同一个频道



下图是有新信息发送给频道 1 时,就会将消息发送给订阅它的三个客户端



9、Redis 事务


Redis 事务可以一次执行多条命令


1、发送 exec 命令前放入队列缓存,结束事务

2、收到 exec 命令后执行事务操作,如果某一命令执行失败,其它命令仍可继续执行

3、一个事务执行的过程中,其它客户端提交的请求不会被插入到事务执行的命令列表中


一个事务经历三个阶段


  开始事务(命令:multi)


  命令执行


  结束事务(命令:exec)


127.0.0.1:6379> MULTIOK127.0.0.1:6379> set key key1QUEUED127.0.0.1:6379> get keyQUEUED127.0.0.1:6379> rename key key001QUEUED127.0.0.1:6379> exec1) OK2) "key1"3) OK
复制代码


10、Redis 安全配置


可以通过修改配置文件设备密码参数来提高安全性

#requirepass foobared
复制代码

去掉注释 #号就可以配置密码


没有配置密码的情况下查询如下


127.0.0.1:6379> CONFIG GET requirepass1) "requirepass"2) ""
复制代码


配置密码之后,就需要进行认证


127.0.0.1:6379> CONFIG GET requirepass(error) NOAUTH Authentication required.127.0.0.1:6379> AUTH foobared #认证OK127.0.0.1:6379> CONFIG GET requirepass1) "requirepass"2) "foobared"
复制代码


11、Redis 持久化


Redis 持久有两种方式:Snapshotting(快照),Append-only file(AOF)


Snapshotting(快照)


1、将存储在内存的数据以快照的方式写入二进制文件中,如默认 dump.rdb 中

2、save 900 1

#900 秒内如果超过 1 个 Key 被修改,则启动快照保存 3、save 300 10

#300 秒内如果超过 10 个 Key 被修改,则启动快照保存 4、save 60 10000

#60 秒内如果超过 10000 个 Key 被修改,则启动快照保存


Append-only file(AOF)


1、使用 AOF 持久时,服务会将每个收到的写命令通过 write 函数追加到文件中(appendonly.aof)

2、AOF 持久化存储方式参数说明 appendonly yes

#开启 AOF 持久化存储方式 appendfsync always

#收到写命令后就立即写入磁盘,效率最差,效果最好 appendfsync everysec

#每秒写入磁盘一次,效率与效果居中 appendfsync no

#完全依赖 OS,效率最佳,效果没法保证


12、Redis 性能测试


自带相关测试工具


[root@test ~]# redis-benchmark --helpUsage: redis-benchmark [-h <host>] [-p <port>] [-c <clients>] [-n <requests]> [-k <boolean>]
-h <hostname> Server hostname (default 127.0.0.1) -p <port> Server port (default 6379) -s <socket> Server socket (overrides host and port) -a <password> Password for Redis Auth -c <clients> Number of parallel connections (default 50) -n <requests> Total number of requests (default 100000) -d <size> Data size of SET/GET value in bytes (default 2) -dbnum <db> SELECT the specified db number (default 0) -k <boolean> 1=keep alive 0=reconnect (default 1) -r <keyspacelen> Use random keys for SET/GET/INCR, random values for SADD Using this option the benchmark will expand the string __rand_int__ inside an argument with a 12 digits number in the specified range from 0 to keyspacelen-1. The substitution changes every time a command is executed. Default tests use this to hit random keys in the specified range. -P <numreq> Pipeline <numreq> requests. Default 1 (no pipeline). -q Quiet. Just show query/sec values --csv Output in CSV format -l Loop. Run the tests forever -t <tests> Only run the comma separated list of tests. The test names are the same as the ones produced as output. -I Idle mode. Just open N idle connections and wait.
Examples:
Run the benchmark with the default configuration against 127.0.0.1:6379: $ redis-benchmark
Use 20 parallel clients, for a total of 100k requests, against 192.168.1.1: $ redis-benchmark -h 192.168.1.1 -p 6379 -n 100000 -c 20
Fill 127.0.0.1:6379 with about 1 million keys only using the SET test: $ redis-benchmark -t set -n 1000000 -r 100000000
Benchmark 127.0.0.1:6379 for a few commands producing CSV output: $ redis-benchmark -t ping,set,get -n 100000 --csv
Benchmark a specific command line: $ redis-benchmark -r 10000 -n 10000 eval 'return redis.call("ping")' 0
Fill a list with 10000 random elements: $ redis-benchmark -r 10000 -n 10000 lpush mylist __rand_int__
On user specified command lines __rand_int__ is replaced with a random integer with a range of values selected by the -r option.
复制代码


实际测试同时执行 100 万的请求


[root@test ~]# redis-benchmark -n 1000000 -qPING_INLINE: 152578.58 requests per secondPING_BULK: 150308.14 requests per secondSET: 143266.47 requests per secondGET: 148632.58 requests per secondINCR: 145857.64 requests per secondLPUSH: 143781.45 requests per secondLPOP: 147819.66 requests per secondSADD: 138350.86 requests per secondSPOP: 134282.27 requests per secondLPUSH (needed to benchmark LRANGE): 141302.81 requests per secondLRANGE_100 (first 100 elements): 146756.67 requests per secondLRANGE_300 (first 300 elements): 148104.27 requests per secondLRANGE_500 (first 450 elements): 152671.75 requests per secondLRANGE_600 (first 600 elements): 148104.27 requests per secondMSET (10 keys): 132731.62 requests per second
复制代码


13、Redis 的备份与恢复


Redis 自动备份有两种方式


第一种是通过 dump.rdb 文件实现备份


第二种使用 aof 文件实现自动备份


dump.rdb 备份


Redis 服务默认的自动文件备份方式(AOF 没有开启的情况下),在服务启动时,就会自动从 dump.rdb 文件中去加载数据。


具体配置在 redis.conf


save 900 1


save 300 10


save 60 10000


也可以手工执行 save 命令实现手动备份


127.0.0.1:6379> set name keyOK127.0.0.1:6379> SAVEOK127.0.0.1:6379> set name key1OK127.0.0.1:6379> BGSAVEBackground saving started
复制代码


redis 快照到 dump 文件时,会自动生成 dump.rdb 的文件


# The filename where to dump the DBdbfilename dump.rdb-rw-r--r-- 1 root root   253 Apr 17 20:17 dump.rdb
复制代码


SAVE 命令表示使用主进程将当前数据库快照到 dump 文件


BGSAVE 命令表示,主进程会 fork 一个子进程来进行快照备份


两种备份不同之处,前者会阻塞主进程,后者不会。


恢复举例


# Note that you must specify a directory here, not a file name.dir /usr/local/redisdata/备份文件存储路径127.0.0.1:6379> CONFIG GET dir1) "dir"2) "/usr/local/redisdata"127.0.0.1:6379> set key 001OK127.0.0.1:6379> set key1 002OK127.0.0.1:6379> set key2 003OK127.0.0.1:6379> saveOK
复制代码


将备份文件备份到其它目录


[root@test ~]# ll /usr/local/redisdata/total 4-rw-r--r-- 1 root root 49 Apr 17 21:24 dump.rdb[root@test ~]# dateTue Apr 17 21:25:38 CST 2018[root@test ~]# cp ./dump.rdb /tmp/
复制代码


删除数据


127.0.0.1:6379> del key1(integer) 1127.0.0.1:6379> get key1(nil)
复制代码


关闭服务,将原备份文件拷贝回 save 备份目录


[root@test ~]# redis-cli -a foobared shutdown[root@test ~]# lsof -i :6379[root@test ~]# cp /tmp/dump.rdb /usr/local/redisdata/cp: overwrite ‘/usr/local/redisdata/dump.rdb’? y[root@test ~]# redis-server /usr/local/redis/redis.conf &[1] 31487
复制代码


登录查看数据是否恢复


[root@test ~]# redis-cli -a foobared127.0.0.1:6379> mget key key1 key21) "001"2) "002"3) "003"
复制代码


AOF 自动备份


redis 服务默认是关闭此项配置


###### APPEND ONLY MODE ##########appendonly no
# The name of the append only file (default: "appendonly.aof")appendfilename "appendonly.aof"
# appendfsync alwaysappendfsync everysec# appendfsync no
复制代码


配置文件的相关参数,前面已经详细介绍过。


AOF 文件备份,是备份所有的历史记录以及执行过的命令,和 mysql binlog 很相似,在恢复时就是重新执次一次之前执行的命令,需要注意的就是在恢复之前,和数据库恢复一样需要手工删除执行过的 del 或误操作的命令。


AOF 与 dump 备份不同 1、aof 文件备份与 dump 文件备份不同

2、服务读取文件的优先顺序不同,会按照以下优先级进行启动 如果只配置 AOF,重启时加载 AOF 文件恢复数据

    如果同时 配置了 RBD 和 AOF,启动是只加载 AOF 文件恢复数据

    如果只配置 RBD,启动时将加载 dump 文件恢复数据


注意:只要配置了 aof,但是没有 aof 文件,这个时候启动的数据库会是空的


14、Redis 生产优化介绍


1、内存管理优化


hash-max-ziplist-entries 512


 hash-max-ziplist-value 64


 list-max-ziplist-entries 512


 list-max-ziplist-value 64 #list 的成员与值都不太大的时候会采用紧凑格式来存储,相对内存开销也较小


在 linux 环境运行 Redis 时,如果系统的内存比较小,这个时候自动备份会有可能失败,需要修改系统的 vm.overcommit_memory 参数,这个参数是 linux 系统的内存分配策略

    0 表示内核将检查是否有足够的可用内存供应用进程使用;如果有足够的可用内存,内存申请允许;否则,内存申请失败,并把错误返回给应用进程。

    1 表示内核允许分配所有的物理内存,而不管当前的内存状态如何。

    2 表示内核允许分配超过所有物理内存和交换空间总和的内存 Redis 官方的说明是,建议将 vm.overcommit_memory 的值修改为 1,可以用下面几种方式进行修改:(1)编辑/etc/sysctl.conf 改 vm.overcommit_memory=1,然后 sysctl -p 使配置文件生效

(2)sysctl vm.overcommit_memory=1

 (3)echo 1 > /proc/sys/vm/overcommit_memory


2、内存预分配


3、持久化机制 定时快照:效率不高,会丢失数据


    AOF:保持数据完整性(一个实例的数量不要太大 2G 最大)


优化总结

1)根据业务需要选择合适的数据类型

2)当业务场景不需持久化时就关闭所有持久化方式(采用 ssd 磁盘来提升效率)

3)不要使用虚拟内存的方式,每秒实时写入 AOF

4)不要让 REDIS 所在的服务器物理内存使用超过内存总量的 3/5

5)要使用 maxmemory

6)大数据量按业务分开使用多个 redis 实例


15、Redis 集群应用


集群是将多个 redis 实例集中在一起,实现同一业务需求,或者实现高可用与负载均衡


到底有哪些集群方案呢??


1、haproxy+keepalived+redis 集群



1)通过 redis 的配置文件,实现主从复制、读写分离


2)通过 haproxy 的配置,实现负载均衡,当从故障时也会及时从集群中 T 除


3)利用 keepalived 来实现负载的高可用


2、redis 官方 Sentinel 集群管理工具


Redis集群生产环境高可用方案实战过程



1)sentinel 负责对集群中的主从服务监控、提醒和自动故障转移


2)redis 集群负责对外提供服务


关于 redis sentinel cluster 集群配置可参考


3、Redis Cluster


Redis Cluster 是 Redis 的分布式解决方案,在 Redis 3.0 版本正式推出的,有效解决了 Redis 分布式方面的需求。当遇到单机内存、并发、流量等瓶颈时,可以采用 Cluster 架构达到负载均衡的目的。



1)官方推荐,毋庸置疑。


2)去中心化,集群最大可增加 1000 个节点,性能随节点增加而线性扩展。


3)管理方便,后续可自行增加或摘除节点,移动分槽等等。


4)简单,易上手。

发布于: 33 分钟前阅读数: 2
用户头像

民工哥

关注

公众号:民工哥技术之路 微信mingongge2019 2018.04.16 加入

10多年 IT 职场老司机,坚持自学一路从技术小白成长为互联网企业信息技术部门的负责人。 《Linux系统运维指南 从入门到企业实战》作者。专注Linux系统、架构、集群、分布式、中间件等后端开源技术分享。

评论

发布
暂无评论
学会这15点,让你分分钟拿下Redis数据库