数据库Redis快速入门

直播：近二十载从业老兵谈金融科技赋能的探索与实践

1、Redis简介

REmote DIctionary Server(Redis)是一个由Salvatore Sanfilippo写的key-value存储系统。Redis是一个开源的使用ANSI C语言编写、遵守BSD协议、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库，并提供多种语言的API。它通常被称为数据结构服务器，因为值（value）可以是 字符串(String), 哈希(Map), 列表(list), 集合(sets) 和 有序集合(sorted sets)等类型。

大家都知道了redis是基于key-value的no sql数据库，因此，先来了解一下关于key相关的知识点

  1、任何二进制的序列都可以作为key使用

  2、Redis有统一的规则来设计key

  3、对key-value允许的最大长度是512MB

2、支持的语言

1. ActionScript Bash  C  C#  C++  Clojure Common LispCrystal  D  Dart  Elixir  emacs  lisp  Erlang  Fancy  gawk  GNU Prolog  Go  Haskell  Haxe  Io java  Javascript  Julia  Lua  Matlab  mruby  Nim  Node.js  Objective-C  OCaml Pascal  Perl  PHP  Pure Data  Python  R  Racket  Rebol  Ruby  Rust Scala  Scheme  Smalltalk  Swift  Tcl  VB  VCL 

3、Redis的应用场景到底有哪些？？

  1、最常用的就是会话缓存

  2、消息队列，比如支付

  3、活动排行榜或计数

  4、发布、订阅消息(消息通知)

  5、商品列表、评论列表等

4、Redis安装

关于redis安装与相关的知识点介绍请参考 Nosql数据库服务之redis

安装的大概步骤如下：

Redis是c语言开发的，安装redis需要c语言的编译环境

如果没有gcc需要在线安装：yum install gcc-c++

第一步：获取源码包：wget http://download.redis.io/rele...

第二步：解压缩redis：tar zxvf redis-3.0.0.tar.gz

第三步：编译。进入redis源码目录(cd redis-3.0.0)。执行 make

第四步：安装。make install PREFIX=/usr/local/redis

PREFIX参数指定redis的安装目录

5、Redis数据类型

Redis一共支持五种数据类型

1、string(字符串)

2、hash(哈希)

3、list(列表)

4、set(集合)

5、zset（sorted set 有序集合）

string(字符串)

它是redis最基本的数据类型，一个key对应一个value，需要注意是一个键值最大存储512MB。

1. 127.0.0.1:6379> set key "hello world"  
2. OK  
3. 127.0.0.1:6379> get key  
4. "hello world"  
5. 127.0.0.1:6379> getset key "nihao"  
6. "hello world"  
7. 127.0.0.1:6379> mset key1 "hi" key2 "nihao" key3 "hello"  
8. OK  
9. 127.0.0.1:6379> get key1  
10. "hi"  
11. 127.0.0.1:6379> get key2  
12. "nihao"  
13. 127.0.0.1:6379> get key3  
14. "hello" 

相关命令介绍

set 为一个Key设置value（值）

get 获得某个key对应的value（值）

getset 为一个Key设置value（值）并返回对应的值

mset 为多个key设置value（值）

hash(哈希)

redis hash是一个键值对的集合， 是一个string类型的field和value的映射表，适合用于存储对象

1. 127.0.0.1:6379> hset redishash 1 "001"  
2. (integer) 1  
3. 127.0.0.1:6379> hget redishash 1  
4. "001"  
5. 127.0.0.1:6379> hmset redishash 1 "001" 2 "002"  
6. OK  
7. 127.0.0.1:6379> hget redishash 1  
8. "001"  
9. 127.0.0.1:6379> hget redishash 2  
10. "002"  
11. 127.0.0.1:6379> hmget redishash 1 2  
12. 1) "001"  
13. 2) "002" 

相关命令介绍

hset 将Key对应的hash中的field配置为value，如果hash不存则自动创建，

hget 获得某个hash中的field配置的值

hmset 批量配置同一个hash中的多个field值

hmget 批量获得同一个hash中的多个field值

list(列表)

是redis简单的字符串列表，它按插入顺序排序

1. 127.0.0.1:6379> lpush word  hi  
2. (integer) 1  
3. 127.0.0.1:6379> lpush word  hello  
4. (integer) 2  
5. 127.0.0.1:6379> rpush word  world  
6. (integer) 3  
7. 127.0.0.1:6379> lrange word 0 2  
8. 1) "hello"  
9. 2) "hi"  
10. 3) "world"  
11. 127.0.0.1:6379> llen word  
12. (integer) 3 

相关命令介绍

lpush 向指定的列表左侧插入元素，返回插入后列表的长度

rpush 向指定的列表右侧插入元素，返回插入后列表的长度

llen  返回指定列表的长度

lrange 返回指定列表中指定范围的元素值

set(集合)

是string类型的无序集合，也不可重复

1. 127.0.0.1:6379> sadd redis redisset  
2. (integer) 1  
3. 127.0.0.1:6379> sadd redis redisset1  
4. (integer) 1  
5. 127.0.0.1:6379> sadd redis redisset2  
6. (integer) 1  
7. 127.0.0.1:6379> smembers redis  
8. 1) "redisset1"  
9. 2) "redisset"  
10. 3) "redisset2"  
11. 127.0.0.1:6379> sadd redis redisset2  
12. (integer) 0  
13. 127.0.0.1:6379> smembers redis  
14. 1) "redisset1"  
15. 2) "redisset"  
16. 3) "redisset2"  
17. 127.0.0.1:6379> smembers redis  
18. 1) "redisset1"  
19. 2) "redisset3"  
20. 3) "redisset"  
21. 4) "redisset2"  
22. 127.0.0.1:6379> srem redis redisset 
23. (integer) 1  
24. 127.0.0.1:6379> smembers redis  
25. 1) "redisset1"  
26. 2) "redisset3"  
27. 3) "redisset2" 

相关命令介绍

sadd 添加一个string元素到key对应的set集合中，成功返回1，如果元素存在返回0

smembers 返回指定的集合中所有的元素

srem 删除指定集合的某个元素

zset（sorted set 有序集合）

是string类型的有序集合，也不可重复

sorted set中的每个元素都需要指定一个分数，根据分数对元素进行升序排序，如果多个元素有相同的分数，则以字典序进行升序排序，sorted set 因此非常适合实现排名

1. 127.0.0.1:6379> zadd nosql 0 001  
2. (integer) 1  
3. 127.0.0.1:6379> zadd nosql 0 002  
4. (integer) 1  
5. 127.0.0.1:6379> zadd nosql 0 003  
6. (integer) 1  
7. 127.0.0.1:6379> zcount nosql 0 0   
8. (integer) 3  
9. 127.0.0.1:6379> zcount nosql 0 3  
10. (integer) 3  
11. 127.0.0.1:6379> zrem nosql 002  
12. (integer) 1  
13. 127.0.0.1:6379> zcount nosql 0 3  
14. (integer) 2  
15. 127.0.0.1:6379> zscore nosql 003  
16. "0"  
17. 127.0.0.1:6379> zrangebyscore nosql 0 10  
18. 1) "001"  
19. 2) "003"  
20. 127.0.0.1:6379> zadd nosql 1 003  
21. (integer) 0  
22. 127.0.0.1:6379> zadd nosql 1 004  
23. (integer) 1 
24.  127.0.0.1:6379> zrangebyscore nosql 0 10  
25. 1) "001"  
26. 2) "003"  
27. 3) "004"  
28. 127.0.0.1:6379> zadd nosql 3 005  
29. (integer) 1  
30. 127.0.0.1:6379> zadd nosql 2 006  
31. (integer) 1  
32. 127.0.0.1:6379> zrangebyscore nosql 0 10  
33. 1) "001"  
34. 2) "003"  
35. 3) "004"  
36. 4) "006"  
37. 5) "005" 

相关命令介绍

zadd  向指定的sorteset中添加1个或多个元素

zrem  从指定的sorteset中删除1个或多个元素

zcount 查看指定的sorteset中指定分数范围内的元素数量

zscore 查看指定的sorteset中指定分数的元素

zrangebyscore 查看指定的sorteset中指定分数范围内的所有元素

6、键值相关的命令

1. 127.0.0.1:6379> exists key  
2. (integer) 1  
3. 127.0.0.1:6379> exists key1  
4. (integer) 1  
5. 127.0.0.1:6379> exists key100  
6. (integer) 0  
7. 127.0.0.1:6379> get key  
8. "nihao,hello"  
9. 127.0.0.1:6379> get key1  
10. "hi"  
11. 127.0.0.1:6379> del key1  
12. (integer) 1  
13. 127.0.0.1:6379> get key1  
14. (nil)  
15. 127.0.0.1:6379> rename key key0  
16. OK  
17. 127.0.0.1:6379> get key(nil)  
18. 127.0.0.1:6379> get key0  
19. "nihao,hello"  
20. 127.0.0.1:6379> type key0  
21. string 

exists       #确认key是否存在

del           #删除key

expire       #设置Key过期时间(单位秒)

persist     #移除Key过期时间的配置

rename     #重命名key

type         #返回值的类型 

7、Redis服务相关的命令

1. 127.0.0.1:6379> select 0  
2. OK  
3. 127.0.0.1:6379> info  
4. # Server  
5. redis_version:3.0.6  
6. redis_git_sha1:00000000  
7. redis_git_dirty:0  
8. redis_build_id:347e3eeef5029f3  
9. redis_mode:standalone  
10. os:Linux 3.10.0-693.el7.x86_64 x86_64  
11. arch_bits:64  
12. multiplexing_api:epoll  
13. gcc_version:4.8.5  
14. process_id:31197  
15. run_id:8b6ec6ad5035f5df0b94454e199511084ac6fb12  
16. tcp_port:6379  
17. uptime_in_seconds:8514  
18. uptime_in_days:0  
19. hz:10  
20. lru_clock:14015928  
21. config_file:/usr/local/redis/redis.conf  
22. -------------------省略N行  
23. 127.0.0.1:6379> CONFIG GET 0  
24. (empty list or set)  
25. 127.0.0.1:6379> CONFIG GET 15  
26. (empty list or set) 

slect           #选择数据库(数据库编号0-15)

quit             #退出连接

info             #获得服务的信息与统计

monitor       #实时监控

config get   #获得服务配置

flushdb       #删除当前选择的数据库中的key

flushall       #删除所有数据库中的key

8、Redis的发布与订阅

Redis发布与订阅(pub/sub)是它的一种消息通信模式，一方发送信息，一方接收信息。

下图是三个客户端同时订阅同一个频道

下图是有新信息发送给频道1时，就会将消息发送给订阅它的三个客户端

9、Redis事务

Redis事务可以一次执行多条命令

1、发送exec命令前放入队列缓存，结束事务

2、收到exec命令后执行事务操作，如果某一命令执行失败，其它命令仍可继续执行

3、一个事务执行的过程中，其它客户端提交的请求不会被插入到事务执行的命令列表中

一个事务经历三个阶段

开始事务(命令:multi)

命令执行

结束事务(命令:exec)

1. 127.0.0.1:6379> MULTI  
2. OK  
3. 127.0.0.1:6379> set key key1  
4. QUEUED  
5. 127.0.0.1:6379> get key  
6. QUEUED  
7. 127.0.0.1:6379> rename key key001  
8. QUEUED  
9. 127.0.0.1:6379> exec  
10. 1) OK  
11. 2) "key1"  
12. 3) OK 

10、Redis安全配置

可以通过修改配置文件设备密码参数来提高安全性

 #requirepass foobared

去掉注释#号就可以配置密码

没有配置密码的情况下查询如下

1. 127.0.0.1:6379> CONFIG GET requirepass  
2. 1) "requirepass"  
3. 2) "" 

配置密码之后，就需要进行认证

1. 127.0.0.1:6379> CONFIG GET requirepass  
2. (error) NOAUTH Authentication required.  
3. 127.0.0.1:6379> AUTH foobared   
4. #认证OK  
5. 127.0.0.1:6379> CONFIG GET requirepass  
6. 1) "requirepass"  
7. 2) "foobared" 

11、Redis持久化

Redis持久有两种方式:Snapshotting(快照),Append-only file(AOF)

Snapshotting(快照)

1、将存储在内存的数据以快照的方式写入二进制文件中，如默认dump.rdb中

2、save 900 1

#900秒内如果超过1个Key被修改，则启动快照保存

3、save 300 10

#300秒内如果超过10个Key被修改，则启动快照保存

4、save 60 10000

#60秒内如果超过10000个Key被修改，则启动快照保存

Append-only file(AOF)

1、使用AOF持久时，服务会将每个收到的写命令通过write函数追加到文件中（appendonly.aof）

2、AOF持久化存储方式参数说明

appendonly yes 

#开启AOF持久化存储方式

appendfsync always

#收到写命令后就立即写入磁盘，效率最差，效果最好

appendfsync everysec

#每秒写入磁盘一次，效率与效果居中

appendfsync no

#完全依赖OS，效率最佳，效果没法保证

12、Redis 性能测试

自带相关测试工具

1. [root@test ~]# redis-benchmark --help 
2. Usage: redis-benchmark [-h <host>] [-p <port>] [-c <clients>] [-n <requests]> [-k <boolean>]   
3. -h <hostname>      Server hostname (default 127.0.0.1)   
4. -p <port>          Server port (default 6379)   
5. -s <socket>        Server socket (overrides host and port) -a <password>      Password for Redis Auth   
6. -c <clients>       Number of parallel connections (default 50)   
7. -n <requests>      Total number of requests (default 100000)   
8. -d <size>          Data size of SET/GET value in bytes (default 2)   
9. -dbnum <db>        SELECT the specified db number (default 0)   
10. -k <boolean>       1=keep alive 0=reconnect (default 1)   
11. -r <keyspacelen>   Use random keys for SET/GET/INCR, random values for SADD  Using this option the benchmark will expand the string __rand_int__  inside an argument with a 12 digits number in the specified range  from 0 to keyspacelen-1. The substitution changes every time a command  is executed. Default tests use this to hit random keys in the  specified range.  
12. -P <numreq>        Pipeline <numreq> requests. Default 1 (no pipeline).   
13. -q                 Quiet. Just show query/sec values --csv              Output in CSV format   
14. -l                 Loop. Run the tests forever   
15. -t <tests>         Only run the comma separated list of tests. The test                    names are the same as the ones produced as output.   
16. -I                 Idle mode. Just open N idle connections and wait.  
17. Examples:  
18. Run the benchmark with the default configuration against 127.0.0.1:6379:     
19. $ redis-benchmark 
20. Use 20 parallel clients, for a total of 100k requests, against 192.168.1.1:    
21. $ redis-benchmark -h 192.168.1.1 -p 6379 -n 100000 -c 20   
22. Fill 127.0.0.1:6379 with about 1 million keys only using the SET test:     
23. $ redis-benchmark -t set -n 1000000 -r 100000000   
24. Benchmark 127.0.0.1:6379 for a few commands producing CSV output:     
25. $ redis-benchmark -t ping,set,get -n 100000 --csv   
26. Benchmark a specific command line:     
27. $ redis-benchmark -r 10000 -n 10000 eval 'return redis.call("ping")' 0  
28. Fill a list with 10000 random elements:     
29. $ redis-benchmark -r 10000 -n 10000 lpush mylist __rand_int__   
30. On user specified command lines __rand_int__ is replaced with a random integer with a range of values selected by the -r option. 

实际测试同时执行100万的请求

1. [root@test ~]# redis-benchmark -n 1000000 -q  
2. PING_INLINE: 152578.58 requests per second  
3. PING_BULK: 150308.14 requests per second  
4. SET: 143266.47 requests per second  
5. GET: 148632.58 requests per second  
6. INCR: 145857.64 requests per second  
7. LPUSH: 143781.45 requests per second  
8. LPOP: 147819.66 requests per second  
9. SADD: 138350.86 requests per second  
10. SPOP: 134282.27 requests per second  
11. LPUSH (needed to benchmark LRANGE): 141302.81 requests per second  
12. LRANGE_100 (first 100 elements): 146756.67 requests per second  
13. LRANGE_300 (first 300 elements): 148104.27 requests per second  
14. LRANGE_500 (first 450 elements): 152671.75 requests per second  
15. LRANGE_600 (first 600 elements): 148104.27 requests per second  
16. MSET (10 keys): 132731.62 requests per second 

13、Redis的备份与恢复

Redis自动备份有两种方式

第一种是通过dump.rdb文件实现备份

第二种使用aof文件实现自动备份

dump.rdb备份

Redis服务默认的自动文件备份方式(AOF没有开启的情况下)，在服务启动时，就会自动从dump.rdb文件中去加载数据。

**具体配置在redis.conf

save 900 1

save 300 10

save 60 10000**

也可以手工执行save命令实现手动备份

1. 127.0.0.1:6379> set name key  
2. OK  
3. 127.0.0.1:6379> SAVE  
4. OK  
5. 127.0.0.1:6379> set name key1  
6. OK  
7. 127.0.0.1:6379> BGSAVE  
8. Background saving started 

redis快照到dump文件时，会自动生成dump.rdb的文件

1. # The filename where to dump the DB  
2. dbfilename dump.rdb  
3. -rw-r--r-- 1 root root   253 Apr 17 20:17 dump.rdb 

SAVE命令表示使用主进程将当前数据库快照到dump文件

BGSAVE命令表示，主进程会fork一个子进程来进行快照备份

两种备份不同之处，前者会阻塞主进程，后者不会。

恢复举例

1. # Note that you must specify a directory here, not a file name.dir   
2. /usr/local/redisdata/  
3. #备份文件存储路径 
4. 127.0.0.1:6379> CONFIG GET dir  
5. 1) "dir"  
6. 2) "/usr/local/redisdata"  
7. 127.0.0.1:6379> set key 001  
8. OK  
9. 127.0.0.1:6379> set key1 002  
10. OK  
11. 127.0.0.1:6379> set key2 003  
12. OK  
13. 127.0.0.1:6379> save  
14. OK 

将备份文件备份到其它目录

1. [root@test ~]# ll /usr/local/redisdata/  
2. total 4 
3. -rw-r--r-- 1 root root 49 Apr 17 21:24 dump.rdb  
4. [root@test ~]# date  
5. Tue Apr 17 21:25:38 CST 2018  
6. [root@test ~]# cp ./dump.rdb /tmp/ 

删除数据

1. 127.0.0.1:6379> del key1  
2. (integer) 1  
3. 127.0.0.1:6379> get key1  
4. (nil) 

关闭服务，将原备份文件拷贝回save备份目录

1. [root@test ~]# redis-cli -a foobared shutdown  
2. [root@test ~]# lsof -i :6379  
3. [root@test ~]# cp /tmp/dump.rdb /usr/local/redisdata/  
4. cp: overwrite ‘/usr/local/redisdata/dump.rdb’? y  
5. [root@test ~]# redis-server /usr/local/redis/redis.conf &  
6. [1] 31487 

登录查看数据是否恢复

1. [root@test ~]# redis-cli -a foobared  
2. 127.0.0.1:6379> mget key key1 key2  
3. 1) "001"  
4. 2) "002"  
5. 3) "003" 

AOF自动备份

redis服务默认是关闭此项配置

1. ###### APPEND ONLY MODE ##########  
2. appendonly no 
3. # The name of the append only file (default: "appendonly.aof")  
4. appendfilename "appendonly.aof"  
5. # appendfsync always  
6. appendfsync everysec  
7. # appendfsync no 

配置文件的相关参数，前面已经详细介绍过。

AOF文件备份，是备份所有的历史记录以及执行过的命令，和mysql binlog很相似，在恢复时就是重新执次一次之前执行的命令，需要注意的就是在恢复之前，和数据库恢复一样需要手工删除执行过的del或误操作的命令。

AOF与dump备份不同

1、aof文件备份与dump文件备份不同

2、服务读取文件的优先顺序不同，会按照以下优先级进行启动

    如果只配置AOF,重启时加载AOF文件恢复数据

    如果同时 配置了RBD和AOF,启动是只加载AOF文件恢复数据

    如果只配置RBD,启动时将加载dump文件恢复数据

注意：只要配置了aof，但是没有aof文件，这个时候启动的数据库会是空的

14、Redis 生产优化介绍

1、内存管理优化 

1. hash-max-ziplist-entries 512    
2.  hash-max-ziplist-value 64    
3.  list-max-ziplist-entries 512    
4.  list-max-ziplist-value 64  
5.  #list的成员与值都不太大的时候会采用紧凑格式来存储，相对内存开销也较小 

在linux环境运行Redis时，如果系统的内存比较小，这个时候自动备份会有可能失败，需要修改系统的vm.overcommit_memory 参数，这个参数是linux系统的内存分配策略

0 表示内核将检查是否有足够的可用内存供应用进程使用；如果有足够的可用内存，内存申请允许；否则，内存申请失败，并把错误返回给应用进程。

1 表示内核允许分配所有的物理内存，而不管当前的内存状态如何。

2 表示内核允许分配超过所有物理内存和交换空间总和的内存

Redis官方的说明是，建议将vm.overcommit_memory的值修改为1，可以用下面几种方式进行修改：

（1）编辑/etc/sysctl.conf 改vm.overcommit_memory=1，然后sysctl -p 使配置文件生效

（2）sysctl vm.overcommit_memory=1

（3）echo 1 > /proc/sys/vm/overcommit_memory

**2、内存预分配

3、持久化机制**

定时快照：效率不高，会丢失数据

AOF：保持数据完整性（一个实例的数量不要太大2G最大）

优化总结

1）根据业务需要选择合适的数据类型

2）当业务场景不需持久化时就关闭所有持久化方式（采用ssd磁盘来提升效率）

3）不要使用虚拟内存的方式，每秒实时写入AOF

4）不要让REDIS所在的服务器物理内存使用超过内存总量的3/5

5）要使用maxmemory

6）大数据量按业务分开使用多个redis实例

15、Redis集群应用

集群是将多个redis实例集中在一起，实现同一业务需求，或者实现高可用与负载均衡

到底有哪些集群方案呢？？

1、haproxy+keepalived+redis集群

1）通过redis的配置文件，实现主从复制、读写分离

2）通过haproxy的配置，实现负载均衡，当从故障时也会及时从集群中T除

3）利用keepalived来实现负载的高可用

2、redis官方Sentinel集群管理工具

Redis集群生产环境高可用方案实战过程

1）sentinel负责对集群中的主从服务监控、提醒和自动故障转移

2）redis集群负责对外提供服务

关于redis sentinel cluster集群配置可参考

3、Redis Cluster

Redis Cluster是Redis的分布式解决方案，在Redis 3.0版本正式推出的，有效解决了Redis分布式方面的需求。当遇到单机内存、并发、流量等瓶颈时，可以采用Cluster架构达到负载均衡的目的。

1）官方推荐，毋庸置疑。

2）去中心化，集群最大可增加1000个节点，性能随节点增加而线性扩展。

3）管理方便，后续可自行增加或摘除节点，移动分槽等等。

4）简单，易上手。

 严格来说，数据库是长期储存在计算机内、有组织的、可共享的数据集合。数据库中的数据指的是以一定的数据模型组织、描述和储存在一起、具有尽可能小的冗余度、较高的数据独立性和易扩展性的特点并可在一定范围内为多个用户共享。