泥浆泵,孕期,恶魔枕边的倔强甜心
只有光头才能变强
最近在学redis,我相信只要是接触过java开发的都会听过redis这么一个技术。面试也是非常高频的一个知识点,之前一直都是处于了解阶段。秋招过后这段时间是没有什么压力的,所以打算系统学学redis,这也算是我从零学习redis的笔记吧。
本文力求讲清每个知识点,希望大家看完能有所收获。
首先,肯定是去官网看看官方是怎么介绍redis的啦。
如果像我一样,英语可能不太好的,可能看不太懂。没事,咱们chrome浏览器可以切换成中文的,中文是我们的母语,肯定没啥压力了。eumm...
读完之后,发现中文也就那样了。
一大堆没见过的技术:lua(lua脚本)、replication(复制)、redis sentinel(哨兵)、redis cluster(redis 集群),当然我们也会有看得懂的技术:transactions(事务)、different levels of on-disk persistence(数据持久化)、lru eviction(lru淘汰机制)..
至少官方介绍redis的第一句应该是可以很容易看懂:"redis is an open source (bsd licensed),in-memory data structure store, used as a database,cache and message broker."
redis是一个开源的,基于内存的数据结构存储,可用作于数据库、缓存、消息中间件。
就我个人认为:学习一种新技术,先把握该技术整体的知识(思想),再扣细节,这样学习起来会比较轻松一些。所以我们先以“内存”、“数据结构”、“缓存”来对redis入门。
从上面可知:redis是基于内存,常用作于缓存的一种技术,并且redis存储的方式是以key-value
的形式。
我们可以发现这不就是java的map容器所拥有的特性吗,那为什么还需要redis呢?
参考资料:
如果我们的网站出现了性能问题(访问时间慢),按经验来说,一般是由于数据库撑不住了。因为一般数据库的读写都是要经过磁盘的,而磁盘的速度可以说是相当慢的(相对内存来说)
如果学过mybaits、hibernate的同学就可以知道,它们有一级缓存、二级缓存这样的功能(终究来说还是本地缓存)。目的就是为了:不用每次读取的时候,都要查一次数据库。
有了缓存之后,我们的访问就变成这样了:
本文不会讲述命令的使用方式,具体的如何使用可查询api。
redis支持丰富的数据结构,常用的有string、list、hash、set、sortset这几种。学习这些数据结构是使用redis的基础!
"redis is written in ansi c"-->redis由c语言编写
首先还是得声明一下,redis的存储是以key-value
的形式的。redis中的key一定是字符串,value可以是string、list、hash、set、sortset这几种常用的。
但要值得注意的是:redis并没有直接使用这些数据结构来实现key-value
数据库,而是基于这些数据结构创建了一个对象系统。
redis中的每个对象都由一个redisobject结构来表示:
typedef struct redisobject{ // 对象的类型 unsigned type 4:; // 对象的编码格式 unsigned encoding:4; // 指向底层实现数据结构的指针 void * ptr; //..... }robj;
简单来说就是redis对key-value
封装成对象,key是一个对象,value也是一个对象。每个对象都有type(类型)、encoding(编码)、ptr(指向底层数据结构的指针)来表示。
下面我就来说一下我们redis常见的数据类型:string、list、hash、set、sortset。它们的底层数据结构究竟是怎么样的!
简单动态字符串(simple dynamic string,sds)
redis中的字符串跟c语言中的字符串,是有点差距的。
redis使用sdshdr结构来表示一个sds值:
struct sdshdr{ // 字节数组,用于保存字符串 char buf[]; // 记录buf数组中已使用的字节数量,也是字符串的长度 int len; // 记录buf数组未使用的字节数量 int free; }
例子:
sds与c的字符串表示比较
对于链表而言,我们不会陌生的了。在大学期间肯定开过数据结构与算法课程,链表肯定是讲过的了。在java中linkedxxx容器底层数据结构也是链表+[xxx]的。我们来看看redis中的链表是怎么实现的:
使用listnode结构来表示每个节点:
typedef strcut listnode{ //前置节点 strcut listnode *pre; //后置节点 strcut listnode *pre; //节点的值 void *value; }listnode
使用listnode是可以组成链表了,redis中使用list结构来持有链表:
typedef struct list{ //表头结点 listnode *head; //表尾节点 listnode *tail; //链表长度 unsigned long len; //节点值复制函数 void *(*dup) (viod *ptr); //节点值释放函数 void (*free) (viod *ptr); //节点值对比函数 int (*match) (void *ptr,void *key); }list
具体的结构如图:
redis的链表有以下特性:
void *
指针来保存节点值,可以保存各种不同类型的值声明:《redis设计与实现》里边有“字典”这么一个概念,我个人认为还是直接叫哈希表比较通俗易懂。从代码上看:“字典”也是在哈希表基础上再抽象了一层而已。
在redis中,key-value
的数据结构底层就是哈希表来实现的。对于哈希表来说,我们也并不陌生。在java中,哈希表实际上就是数组+链表的形式来构建的。下面我们来看看redis的哈希表是怎么构建的吧。
在redis里边,哈希表使用dictht结构来定义:
typedef struct dictht{ //哈希表数组 dictentry **table; //哈希表大小 unsigned long size; //哈希表大小掩码,用于计算索引值 //总是等于size-1 unsigned long sizemark; //哈希表已有节点数量 unsigned long used; }dictht
我们下面继续写看看哈希表的节点是怎么实现的吧:
typedef struct dictentry { //键 void *key; //值 union { void *value; uint64_tu64; int64_ts64; }v; //指向下个哈希节点,组成链表 struct dictentry *next; }dictentry;
从结构上看,我们可以发现:redis实现的哈希表和java中实现的是类似的。只不过redis多了几个属性来记录常用的值:sizemark(掩码)、used(已有的节点数量)、size(大小)。
同样地,redis为了更好的操作,对哈希表往上再封装了一层(参考上面的redis实现链表),使用dict结构来表示:
typedef struct dict { //类型特定函数 dicttype *type; //私有数据 void *privdata; //哈希表 dictht ht[2]; //rehash索引 //当rehash不进行时,值为-1 int rehashidx; }dict; //----------------------------------- typedef struct dicttype{ //计算哈希值的函数 unsigned int (*hashfunction)(const void * key); //复制键的函数 void *(*keydup)(void *private, const void *key); //复制值得函数 void *(*valdup)(void *private, const void *obj); //对比键的函数 int (*keycompare)(void *privdata , const void *key1, const void *key2) //销毁键的函数 void (*keydestructor)(void *private, void *key); //销毁值的函数 void (*valdestructor)(void *private, void *obj); }dicttype
所以,最后我们可以发现,redis所实现的哈希表最后的数据结构是这样子的:
从代码实现和示例图上我们可以发现,redis中有两个哈希表:
key-vlaue
数据redis中哈希算法和哈希冲突跟java实现的差不多,它俩差异就是:
下面来具体讲讲redis是怎么rehash的,因为我们从上面可以明显地看到,redis是专门使用一个哈希表来做rehash的。这跟java一次性直接rehash是有区别的。
在对哈希表进行扩展或者收缩操作时,reash过程并不是一次性地完成的,而是渐进式地完成的。
redis在rehash时采取渐进式的原因:数据量如果过大的话,一次性rehash会有庞大的计算量,这很可能导致服务器一段时间内停止服务。
redis具体是rehash时这么干的:
跳跃表(shiplist)是实现sortset(有序集合)的底层数据结构之一!
跳跃表可能对于大部分人来说不太常见,之前我在学习的时候发现了一篇不错的文章讲跳跃表的,建议大家先去看完下文再继续回来阅读:
redis的跳跃表实现由zskiplist和zskiplistnode两个结构组成。其中zskiplist保存跳跃表的信息(表头,表尾节点,长度),zskiplistnode则表示跳跃表的节点。
按照惯例,我们来看看zskiplistnode跳跃表节点的结构是怎么样的:
typeof struct zskiplistnode { // 后退指针 struct zskiplistnode *backward; // 分值 double score; // 成员对象 robj *obj; // 层 struct zskiplistlevel { // 前进指针 struct zskiplistnode *forward; // 跨度 unsigned int span; } level[]; } zskiplistnode;
zskiplistnode的对象示例图(带有不同层高的节点):
示例图如下:
zskiplist的结构如下:
typeof struct zskiplist { // 表头节点,表尾节点 struct skiplistnode *header,*tail; // 表中节点数量 unsigned long length; // 表中最大层数 int level; } zskiplist;
最后我们整个跳跃表的示例图如下:
整数集合是set(集合)的底层数据结构之一。当一个set(集合)只包含整数值元素,并且元素的数量不多时,redis就会采用整数集合(intset)作为set(集合)的底层实现。
整数集合(intset)保证了元素是不会出现重复的,并且是有序的(从小到大排序),intset的结构是这样子的:
typeof struct intset { // 编码方式 unit32_t encoding; // 集合包含的元素数量 unit32_t lenght; // 保存元素的数组 int8_t contents[]; } intset;
intset示例图:
说明:虽然intset结构将contents属性声明为int8_t类型的数组,但实际上contents数组并不保存任何int8_t类型的值,contents数组的真正类型取决于encoding属性的值:
从编码格式的名字我们就可以知道,16,32,64编码对应能存放的数字范围是不一样的。16明显最少,64明显最大。
如果本来是intset_enc_int16的编码,想要存放大于intset_enc_int16编码能存放的整数值,此时就得编码升级(从16升级成32或者64)。步骤如下:
另外一提:只支持升级操作,并不支持降级操作。
压缩列表(ziplist)是list和hash的底层实现之一。如果list的每个都是小整数值,或者是比较短的字符串,压缩列表(ziplist)作为list的底层实现。
压缩列表(ziplist)是redis为了节约内存而开发的,是由一系列的特殊编码的连续内存块组成的顺序性数据结构。
压缩列表结构图例如下:
下面我们看看节点的结构图:
压缩列表从表尾节点倒序遍历,首先指针通过zltail偏移量指向表尾节点,然后通过指向节点记录的前一个节点的长度依次向前遍历访问整个压缩列表。
再次看回这张图,觉不觉得就很好理解了?
在上面的图我们知道string类型有三种编码格式:
embstr和raw的区别:
编码之间的转换:
在上面的图我们知道list类型有两种编码格式:
&&
总数量少于512个||
总数量大于512个ziplist编码的列表结构:
redis > rpush numbers 1 "three" 5 (integer) 3
linkedlist编码的列表结构:
编码之间的转换:
在上面的图我们知道hash类型有两种编码格式:
&&
键值对总数量小于512||
键值对总数量大于512ziplist编码的哈希结构:
hashtable编码的哈希结构:
编码之间的转换:
在上面的图我们知道set类型有两种编码格式:
&&
总数量小于512||
总数量大于512intset编码的集合结构:
hashtable编码的集合结构:
编码之间的转换:
在上面的图我们知道set类型有两种编码格式:
&&
总数量小于128||
总数量大于128ziplist编码的有序集合结构:
skiplist编码的有序集合结构:
有序集合(sortset)对象同时采用skiplist和哈希表来实现:
编码之间的转换:
本文主要讲了一下redis常用的数据结构,以及这些数据结构的底层设计是怎么样的。整体来说不会太难,因为这些数据结构我们在学习的过程中多多少少都接触过了,《redis设计与实现》这本书写得也足够通俗易懂。
至于我们在使用的时候挑选哪些数据结构作为存储,可以简单看看:
key-value
如果大家有更好的理解方式或者文章有错误的地方还请大家不吝在评论区留言,大家互相学习交流~~~
参考博客:
参考资料:
一个坚持原创的java技术公众号:java3y,欢迎大家关注
原创技术文章导航:
如对本文有疑问,请在下面进行留言讨论,广大热心网友会与你互动!! 点击进行留言回复
理解Redis持久化,RDB持久化和AOF持久化的不同处理方式
Redis 两类持久化方式,快照和全量追加日志的不同处理方式
网友评论