关于NoSQL
在引出Redis之前,我们需要首先认识到NoSQL这个概念。也就是非关系型数据库。
我们在学校学的更多的是关系型数据库MySQL。这里引入了非关系型数据库-NoSQL。
为什么引入NoSQL
这里需要探讨的是MySQL的发展演进!
1、单机MySQL
在90年代,APP和web应用通过数据访问层(jdbc)访问数据库实例。
这个年代,网站的访问量不大,所以数据库的压力不会太大。而且使用的网页还是html静态网页,那么服务器的压力也不会大。
单机年代的数据库瓶颈
这个时代,数据的瓶颈如下:
- 数据量如果太大,一个机器放不下
- 数据索引量太多,机器内存也放不下
- 访问量(读写混合),一个服务器压力太大
出现上面的情况,所以进入了如下的新时代。
2、Memcached(缓存) + MySQL + 垂直拆分 (读写分离)
Memcached也是一个缓存技术,但是后来被Redis取代了。与memcached相比,Redis功能更强大,更受欢迎并且得到更好的支持。Memcached只能做Redis可以做的一小部分。即使Redis的功能重叠,Redis也更好。
以前的公司遇到高并发的问题,首先从产品的角度出发,优化数据结构和索引---->文件缓存(IO)----->Memcached缓存。
数据库的本质就是读和写,缓存技术的发展就是用来解决读!而读写分离、分库分表是用来解决 写!。
后来采用如上图所示,Cache用Memcached缓存技术,外加3台服务器,采用“主从同步,读写分离”的思想分担数据库服务器的压力。mysql2服务器负责将
Memcached缓存写入的数据同步到mysql1和mysql2服务器,最后让Memcached缓存分别读取mysql1和mysql2服务器的内容。
3、分库分表+水平拆分+MySQL集群
单个数据库节点,也就是主从节点,形成如下一个服务集群:
其实上面这个过程就叫做 分库分表、水平拆分、MySQL集群。
在这个集群中,S负责让M去读;M负责从缓存从写数据进来。
4、如今的网络架构
2010-2020这十年间,世界发生了变化,比如国家发射了卫星,很多互联网公司开始做定位,定位的实时传输数据量非常大,非常快,如果再用MySQL关系型数据库就不行了!这十年里还诞生了博客,微博等现象级产品,这些产品需要存储一些比较大的文件,博客,图片,数据库表很大,效率就会很低!!如果有一种专门的数据库来处理这种数据就很OK!
比如我们看到过,一篇博客爆款浏览量10w+!如果用传统的关系型数据库是不行的,数据量太大了,这里就需要先把文章数据源通过json格式存到Redis里面,然后分库分表进行读写存储。
目前一个基本的互联网项目!
5、总结
通过MySQL的发展演进,我们知道了用户的个人信息、社交网络、地理位置、用户自己生成的数据、用户日志等等数据是爆发增长的,这个时候我们就需要NoSQL数据库,因为NoSQL可以处理以上的情况。
NoSQL的定义
NoSQL = Not Only SQL (不仅仅是SQL)
关系型数据库:表格 ,行 ,列
泛指非关系型数据库的,随着web2.0互联网的诞生!传统的关系型数据库很难对付web2.0时代!尤其是超大规模的高并发的社区! 暴露出来很多难以克服的问题,NoSQL在当今大数据环境下发展的十分迅速,Redis是发展最快的,而且是我们当下必须要掌握的一个技术!很多的数据类型用户的个人信息,社交网络,地理位置。这些数据类型的存储不需要一个固定的格式!不需要多月的操作就可以横向扩展的 ! Map
使用键值对来控制!
NoSQL的分类
非关系型数据库的分类如下:
- KV键值对
- 文档型数据库
- 列存储数据库
- 图关系数据库
四者对比:
Redis入门
Redis(Remote Dictionary Server ),即远程字典服务 !
是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,
并提供多种语言的API
redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件,并且在此基础上实现了master-slave
(主从同步)。免费和开源!是当下最热门的 NoSQL 技术之一!也被人们称之为结构化数据库!
Redis能干嘛?
- 内存存储、持久化,内存中是断电即失、所以说持久化很重要(rdb、aof)
- 效率高,可以用于高速缓存
- 发布订阅系统
- 地图信息分析
- 计时器、计数器(浏览量!)
Redis推荐都是在Linux服务器上搭建的,我们是基于Linux学习!
Redis基础知识
- Redis默认有6个数据库。默认使用的是第0个,可以使用
select
切换数据库。
127.0.0.1:6379> select 3 OK 127.0.0.1:6379[3]> dbsize (integer) 0 127.0.0.1:6379[3]> 127.0.0.1:6379[3]> set name linghu OK 127.0.0.1:6379[3]> get name "linghu" 127.0.0.1:6379[3]> 127.0.0.1:6379[3]> key * (error) ERR unknown command `key`, with args beginning with: `*`, 127.0.0.1:6379[3]> keys * 1) "name" 127.0.0.1:6379[3]> flushdb OK 127.0.0.1:6379[3]> flushall OK 127.0.0.1:6379[3]> keys * (empty list or set) 127.0.0.1:6379[3]>
五大数据类型
Redis 是一个开源(BSD许可)的,内存中的数据结构存储系统,它可以用作数据库、缓存和消息中间件MQ。 它支持多种类型的数据结构,如 字符串(strings), 散列(hashes), 列表(lists), 集合(sets), 有序集合(sorted sets) 与范围查询, bitmaps, hyperloglogs 和 地理空间(geospatial) 索引半径查询。 Redis 内置了 复制(replication),LUA脚本(Lua scripting), LRU驱动事件(LRU eviction),事务(transactions) 和不同级别的 磁盘持久化(persistence), 并通过Redis哨兵(Sentinel)和自动 分区(Cluster)提供高可用性(high availability)。
Redis-Key
Redis Keys 命令用于查找所有符合给定模式 pattern 的 key 。。
127.0.0.1:6379> keys * # 查看所有的key (empty list or set) 127.0.0.1:6379> set name kuangshen # set key OK 127.0.0.1:6379> keys * 1) "name" 127.0.0.1:6379> set age 1 OK 127.0.0.1:6379> keys * 1) "age" 2) "name" 127.0.0.1:6379> EXISTS name # 判断当前的key是否存在 (integer) 1 127.0.0.1:6379> EXISTS name1 (integer) 0 127.0.0.1:6379> move name 1 # 移除当前的key (integer) 1 127.0.0.1:6379> keys * 1) "age" 127.0.0.1:6379> set name qinjiang OK 127.0.0.1:6379> keys * 1) "age" 2) "name" 127.0.0.1:6379> clear 127.0.0.1:6379> keys * 1) "age" 2) "name" 127.0.0.1:6379> get name "qinjiang" 127.0.0.1:6379> EXPIRE name 10 # 设置key的过期时间,单位是秒 (integer) 1 127.0.0.1:6379> ttl name # 查看当前key的剩余时间 (integer) 4 127.0.0.1:6379> ttl name (integer) 3 127.0.0.1:6379> ttl name (integer) 2 127.0.0.1:6379> ttl name (integer) 1 127.0.0.1:6379> ttl name (integer) -2 127.0.0.1:6379> get name (nil) 127.0.0.1:6379> type name # 查看当前key的一个类型! string 127.0.0.1:6379> type age string
String(字符串)
127.0.0.1:6379[3]> set key1 v1 #设置值 OK 127.0.0.1:6379[3]> get key1 #获得值 "v1" 127.0.0.1:6379[3]> keys * #获取所有key 1) "age" 2) "key1" 127.0.0.1:6379[3]> exists key1 #判断某一个key是否存在 (integer) 1 127.0.0.1:6379[3]> append key1 "hello" #追加字符串。如果当前key不存在,相当于setkey (integer) 7 127.0.0.1:6379[3]> get keys (nil) 127.0.0.1:6379[3]> get key (nil) 127.0.0.1:6379[3]> get key1 "v1hello" 127.0.0.1:6379[3]> strlen key1 #获取字符串长度! (integer) 7 127.0.0.1:6379[3]> append key1 "linghu" (integer) 13 127.0.0.1:6379[3]> get key1 "v1hellolinghu" 127.0.0.1:6379[3]> 127.0.0.1:6379[3]> set views 0 #初始浏览量为0 OK 127.0.0.1:6379[3]> get views "0" 127.0.0.1:6379[3]> incr views #自增浏览量为1 (integer) 1 127.0.0.1:6379[3]> incr views (integer) 2 127.0.0.1:6379[3]> get views "2" 127.0.0.1:6379[3]> decr views #自减浏览量为1 (integer) 1 127.0.0.1:6379[3]> decr views (integer) 0 127.0.0.1:6379[3]> incrby views 10 #可以设置步长,指定增量! (integer) 10 127.0.0.1:6379[3]> incrby views 10 (integer) 20 127.0.0.1:6379[3]> decrby views 5 (integer) 15 127.0.0.1:6379[3]> 127.0.0.1:6379> set key1 "hello,linghu" #设置key1的值 OK 127.0.0.1:6379> get key1 "hello,linghu" 127.0.0.1:6379> getrange key1 0 3 #截取字符串[0,3] "hell" 127.0.0.1:6379> getrange key1 0 -1 #获取全部的字符串 和get key是一样的 "hello,linghu" #替换 127.0.0.1:6379> set key2 abcdefg OK 127.0.0.1:6379> get key2 "abcdefg" 127.0.0.1:6379> setrange key2 1 xx # 指定替换的位置 (integer) 7 127.0.0.1:6379> get key2 "axxdefg" 127.0.0.1:6379> setrange key2 1 xx (integer) 7 127.0.0.1:6379> setex key3 30 "hello" #30秒后key3会过期 OK 127.0.0.1:6379> ttl key3 (integer) 21 #21秒,倒计时30秒 127.0.0.1:6379> get key3 "hello" ##检查是否存在名为 mykey 的键。 #如果不存在,则设置该键的值为 "redis"。 #如果存在,则不执行任何操作。 127.0.0.1:6379> setnx mykey "redis" (integer) 1 127.0.0.1:6379> keys * # key3已经过期了 1) "key2" 2) "mykey" 3) "key1" 127.0.0.1:6379> ttl key3 (integer) -2 127.0.0.1:6379> setnx mykey "MongoDB" #如果myKey存在,创建失败 (integer) 0 127.0.0.1:6379> get mykey "redis" #批量存在和批量获取 127.0.0.1:6379> mset k1 v1 k2 v2 k3 v3 #同时设置多个值 OK 127.0.0.1:6379> keys * 1) "key2" 2) "key1" 3) "k3" 4) "k1" 5) "k2" 6) "mykey" 127.0.0.1:6379> mget k1 k2 k3 #同时获取多个值 1) "v1" 2) "v2" 3) "v3" 127.0.0.1:6379> msetnx k1 v1 k4 v4 (integer) 0 127.0.0.1:6379> get key4 (nil) 127.0.0.1:6379> 127.0.0.1:6379> mset user:1:name linghu user:1:age 2 OK 127.0.0.1:6379> mget user:1:name user:1:age 1) "linghu" 2) "2" 127.0.0.1:6379> getset db redis# 如果不存在值,则返回 nil (nil) 127.0.0.1:6379> get db "redis" 127.0.0.1:6379> getset db mongodb# 如果存在值,获取原来的值,并设置新的值 "redis" 127.0.0.1:6379> get db "mongodb" 127.0.0.1:6379>
List(列表)
127.0.0.1:6379> lpush list one #将一个或多个值,拆入到列表头部 (integer) 1 127.0.0.1:6379> lpush list two (integer) 2 127.0.0.1:6379> lpush list three (integer) 3 127.0.0.1:6379> lrange list 0 -1 #获取到list表中的所有元素 1) "three" 2) "two" 3) "one" 127.0.0.1:6379> lrange list 0 1 1) "three" 2) "two" 127.0.0.1:6379> rpush list righr (integer) 4 127.0.0.1:6379> lrange list 0 -1 1) "three" 2) "two" 3) "one" 4) "righr" 127.0.0.1:6379> lpop list#移除列表左边第一个元素 "three" 127.0.0.1:6379> rpop list#移除列表右边第一个元素 "righr" 127.0.0.1:6379> lrange list 0 -1 1) "two" 2) "one" 127.0.0.1:6379> lindex list 1# 获取列表第一个索引的元素值 "one" 127.0.0.1:6379> lindex list 0 "two" #获取list列表的长度 127.0.0.1:6379> llen list (integer) 2 127.0.0.1:6379> 127.0.0.1:6379> lrange list 0 -1 1) "two" 2) "one" 127.0.0.1:6379> lrem list 1 one #移除指定的值 (integer) 1 127.0.0.1:6379> lrange list 0 -1 1) "two" 127.0.0.1:6379> lpush list three (integer) 2 127.0.0.1:6379> keys * 1) "list" 2) "k3" 3) "k1" 4) "user:1:age" 5) "k2" 6) "mykey" 7) "key2" 8) "user:1:name" 9) "db" 10) "key1" 127.0.0.1:6379> rpush mylist "hello" (integer) 1 127.0.0.1:6379> rpush mylist "hello1" (integer) 2 127.0.0.1:6379> rpush mylist "hello2" (integer) 3 127.0.0.1:6379> rpush mylist "hello3" (integer) 4 127.0.0.1:6379> ltrim mylist 1 2 OK 127.0.0.1:6379> lrange mylist 0 -1 1) "hello1" 2) "hello2" 127.0.0.1:6379> rpush mylist "hello"# 移除列表最后一个元素。将他移动到新的列表中 (integer) 3 127.0.0.1:6379> rpush mylist "hello1" (integer) 4 127.0.0.1:6379> rpush mylist "hello2" (integer) 5 127.0.0.1:6379> rpoplpush mylist myotherlist "hello2" 127.0.0.1:6379> lrange mylist 0 -1 1) "hello1" 2) "hello2" 3) "hello" 4) "hello1" 127.0.0.1:6379> exists list (integer) 1 127.0.0.1:6379> lset list 0 item OK 127.0.0.1:6379> 127.0.0.1:6379> lrange list 0 0 1) "item" 127.0.0.1:6379> lset list 1 other OK 127.0.0.1:6379> rpush mylist "hello" (integer) 5 127.0.0.1:6379> flushdb OK 127.0.0.1:6379> rpush mylist "hello" (integer) 1 127.0.0.1:6379> rpush mylist "world" (integer) 2 127.0.0.1:6379> linsert mylist before "world" "other" (integer) 3 #将某个具体的值插入到指定元素之前 127.0.0.1:6379> lrange mylist 0 -1 1) "hello" 2) "other" 3) "world" 127.0.0.1:6379> linsert mylist after world new (integer) 4 127.0.0.1:6379> lrange mylist 0 -1 1) "hello" 2) "other" 3) "world" 4) "new" 127.0.0.1:6379>
小结
- 它实际上是一个链表,before,after,left,right都可以插入值
- 如果key不存在,就会创建新链表
- 如果key存在,新增内容
- 如果移除所有值,空链表,也代表不存在
- 在两边插入或者改动值,效率最高!中间元素,相对来说效率会低一点!
Set(集合)
127.0.0.1:6379> sadd myset "hello" (integer) 1 127.0.0.1:6379> sadd myset "linghu" (integer) 1 127.0.0.1:6379> sadd myset "love linghu" (integer) 1 127.0.0.1:6379> smembers myset 1) "linghu" 2) "love linghu" 3) "hello" 127.0.0.1:6379> sismember myset hello (integer) 1 127.0.0.1:6379> sismember myset world (integer) 0 127.0.0.1:6379> scard myset (integer) 3 127.0.0.1:6379> srem myset hello (integer) 1 127.0.0.1:6379> scard myset (integer) 2 127.0.0.1:6379> smembers myset 1) "linghu" 2) "love linghu" 127.0.0.1:6379> 127.0.0.1:6379> srandmember myset "love linghu" 127.0.0.1:6379> #随机删除一些元素 127.0.0.1:6379> spop myset "linghu" 127.0.0.1:6379> smembers myset 1) "love linghu" 127.0.0.1:6379>127.0.0.1:6379> sadd myset "hello" (integer) 1 127.0.0.1:6379> sadd myset "world" (integer) 1 127.0.0.1:6379> sadd myset "linghu" (integer) 1 127.0.0.1:6379> sadd myset2 "set2" (integer) 1 #将一个特定的值随机移动到另外一个set集合中 127.0.0.1:6379> smove myset myset2 "linghu" (integer) 1 127.0.0.1:6379> smembers myset 1) "world" 2) "hello" 127.0.0.1:6379> smembers myset2 1) "set2" 2) "linghu" 127.0.0.1:6379>
Hash(哈希)
127.0.0.1:6379> hset myhash field1 linghu (integer) 1 127.0.0.1:6379> hget myhash field1 "linghu" 127.0.0.1:6379> hset myhash field1 hello field2 world (integer) 1 127.0.0.1:6379> hmset myhash field1 hello field2 world OK 127.0.0.1:6379> hmget myhash field1 field2 1) "hello" 2) "world" 127.0.0.1:6379> hgetall myhash 1) "field1" 2) "hello" 3) "field2" 4) "world" 127.0.0.1:6379> hdel myhash field1 (integer) 1 127.0.0.1:6379> hgetall myhash 1) "field2" 2) "world" 127.0.0.1:6379> hlen myhash (integer) 1 127.0.0.1:6379> hexists myhash field1 (integer) 0 127.0.0.1:6379> hexists myhash field3 (integer) 0 127.0.0.1:6379> hkeys myhash 1) "field2" 127.0.0.1:6379> hvals myhash 1) "world" 127.0.0.1:6379> 127.0.0.1:6379> hset myhash field3 5 #指定增量 (integer) 1 127.0.0.1:6379> hincrby myhash field3 1 (integer) 6 127.0.0.1:6379> hincrby myhash field3 -1 (integer) 5 127.0.0.1:6379> hsetnx myhash field4 hello #如果不存在则可以设置 (integer) 1 127.0.0.1:6379> hsetnx myhash field4 world #如果存在则不能设置 (integer) 0 127.0.0.1:6379>
Zset(有序集合)
127.0.0.1:6379> zadd myset 1 one (integer) 1 127.0.0.1:6379> zadd myset 2 two 3 three #添加多个值 (integer) 2 127.0.0.1:6379> zrange myset 0 -1 1) "one" 2) "two" 3) "three" 127.0.0.1:6379> #排序如何实现? 127.0.0.1:6379> zadd salary 2500 xiaohong#添加3个用户 (integer) 1 127.0.0.1:6379> zadd salary 5000 zhangsan (integer) 1 127.0.0.1:6379> zadd salary 500 linghu (integer) 1 127.0.0.1:6379> zrangebyscore salary -inf +inf#显示全部用户,从小到大 1) "linghu" 2) "xiaohong" 3) "zhangsan" 127.0.0.1:6379> zrevrange salary 0 -1 1) "zhangsan" 2) "xiaohong" 3) "linghu" 127.0.0.1:6379> zrangebyscore salary -inf +inf withscores 1) "linghu" 2) "500" 3) "xiaohong" 4) "2500" 5) "zhangsan" 6) "5000" 127.0.0.1:6379> zrangebyscore salary -inf 2500 withscores#显示工资小于2500员工的升序排序 1) "linghu" 2) "500" 3) "xiaohong" 4) "2500" 127.0.0.1:6379> zrange salary 0 -1 1) "linghu" 2) "xiaohong" 3) "zhangsan" 127.0.0.1:6379> zrem salary linghu (integer) 1 #移除rem中的元素 127.0.0.1:6379> zrange salary 0 -1 1) "xiaohong" 2) "zhangsan" 127.0.0.1:6379> zcard salary (integer) 2 127.0.0.1:6379> zadd myset 1 hello (integer) 1 127.0.0.1:6379> zadd myset 2 world 3 linghu (integer) 2 127.0.0.1:6379> zcount myset 1 3 (integer) 6 127.0.0.1:6379> zcount myset 1 2 (integer) 4 127.0.0.1:6379> zrange myset 0 -1 1) "hello" 2) "one" 3) "two" 4) "world" 5) "linghu" 6) "three" 127.0.0.1:6379>
三种特殊数据类型
Geospatial地理位置
Geospatial Indexes 是 Redis 提供的一种数据结构,用于存储和查询地理位置信息。它可以将地理位置的经度和纬度编码为二维平面上的点,并支持根据距离或矩形区域查询附近的地理位置点,这使得它在很多场景下被广泛应用,比如 LBS(Location Based Service)、智能推荐、出行规划等。
geoadd命令
geoadd
命令用来添加地理位置,我们一般会下载城市数据,直接通过Java程序一次性导入!
127.0.0.1:6379> geoadd china:city 116.40 39.90 beijing (integer) 1 127.0.0.1:6379> geoadd china:city 121.47 31.23 shanghai (integer) 1 127.0.0.1:6379> geoadd china:city 106.50 29.53 chongqing 114.05 22.52 shenzhen (integer) 2 127.0.0.1:6379>
geopos命令
获取当前定位:一定是一个坐标值!
127.0.0.1:6379> geopos china:city chongqing 1) 1) "106.49999767541885376" 2) "29.52999957900659211" 127.0.0.1:6379>
geodist命令
两人之间的距离!
单位:
- m表示单位米
- km表示千米
- mi表示英里
- ft表示英尺
127.0.0.1:6379> geodist china:city beijing shanghai km#上海到北京的直线距离是1067km "1067.3788" 127.0.0.1:6379>
georadius命令
以给定的经纬度为中心,找出某一半径内的元素。
如何查找附近的人?需要先获得所有附近人的地址,定位!,通过半径来查询!
127.0.0.1:6379> georadius china:city 110 30 1000 km #以110,30这个经纬度为中心,寻找方圆1000km内的城市 1) "chongqing" 2) "shenzhen" 127.0.0.1:6379> georadius china:city 110 30 1000 km withdist#显示到中间距离的位置 1) 1) "chongqing" 2) "341.9374" 2) 1) "shenzhen" 2) "924.6408" 127.0.0.1:6379> georadius china:city 110 30 1000 km withcoord#显示他人的定位信息 1) 1) "chongqing" 2) 1) "106.49999767541885376" 2) "29.52999957900659211" 2) 1) "shenzhen" 2) 1) "114.04999762773513794" 2) "22.5200000879503861" 127.0.0.1:6379> georadius china:city 110 30 1000 km withcoord count 1 #显示这个距离周围的信息指定数量,只显示1个 1) 1) "chongqing" 2) 1) "106.49999767541885376" 2) "29.52999957900659211" 127.0.0.1:6379> georadius china:city 110 30 1000 km withcoord count 2 1) 1) "chongqing" 2) 1) "106.49999767541885376" 2) "29.52999957900659211" 2) 1) "shenzhen" 2) 1) "114.04999762773513794" 2) "22.5200000879503861" 127.0.0.1:6379>
georadiusmember命令
127.0.0.1:6379> georadiusbymember china:city beijing 1000 km#找出位于指定元素周围的其他元素 1) "beijing" 127.0.0.1:6379> georadiusbymember china:city beijing 500 km 1) "beijing" 127.0.0.1:6379> georadiusbymember china:city shanghai 500 km 1) "shanghai" 127.0.0.1:6379>
geohash命令
127.0.0.1:6379> geohash china:city beijing chongqing #将二维的经纬度转换为一维的字符串 1) "wx4fbxxfke0" 2) "wm5xzrybty0" 127.0.0.1:6379>
总结
- GEO的底层实现原理其实是Zset!
《Redis:NoSQL演进之路与Redis深度实践解析》(二)+https://developer.aliyun.com/article/1625022