H2存储内核分析一

简介: 现在做数据库一般都才有 C/C++ 获取其它编译型的语言,为什么会选择 h2 这种基于 java 的语言?会不会影响效率?其实回答这个问题很简单,无论是用什么语言来实现数据库,其实都是在调用操作系统 IO 的函数。因此仅仅是作为存储的话差别其实是不大的。现在大多数,涉及到存储内核的文章或者讲义,要么是一堆原理,要么就是玩具版本例子,根本无法应用到实际的工程上面去,就像马保国的闪电五连鞭一样。我们选择 h2 的一个重要原因就是,学习完后,可以直接应用到工程上。行不行直接在擂台上比一下就知道了。

开篇说明

  1. 现在做数据库一般都才有 C/C++ 获取其它编译型的语言,为什么会选择 h2 这种基于 java 的语言?会不会影响效率?其实回答这个问题很简单,无论是用什么语言来实现数据库,其实都是在调用操作系统 IO 的函数。因此仅仅是作为存储的话差别其实是不大的。
  2. 现在大多数,涉及到存储内核的文章或者讲义,要么是一堆原理,要么就是玩具版本例子,根本无法应用到实际的工程上面去,就像马保国的闪电五连鞭一样。我们选择 h2 的一个重要原因就是,学习完后,可以直接应用到工程上。行不行直接在擂台上比一下就知道了。

MVStore 的基础方法

1、创建一个 MVStore 的对象时,如果 fileName 设置为空表示纯内存模式。也就是说 MVStore 可以作为 redis 使用,当然功能会比 redis 还强大。

1.1、纯内存模式

// 创建一个纯内存的 storeMVStorestore=MVStore.open(null);

复制

1.2、磁盘模式

// 文件存储位置StringfileName="/Users/chenfei/temp/my_store.db";
// 创建一个 storeMVStorestore=newMVStore.Builder().fileName(fileName).pageSplitSize(1000).open();

复制

1.3、使用 MVStore.Builder() 生成 MVStore

MVStore.Builder() 常用方法

  1. 生成纯内存 store
MVStore.Builderbuilder=newMVStore.Builder();
MVStorestore=builder.open();

复制

  1. fileName(String fileName):设置存储MVStore数据的文件名
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. encryptionKey(char[] key):设置加密密钥,用于对MVStore的数据进行加密。如果不设置,则不进行加密。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. compress():开启压缩选项,用于将MVStore的数据进行压缩,以减小存储空间。默认不开启。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. 禁用自动提交事务,需要手动提交。默认开启自动提交事务。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
// 禁用自动提交事务,需要手动提交。builder.autoCommitDisabled();
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. 设置MVStore为只读模式,不能进行写操作。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
// 禁用自动提交事务,需要手动提交。builder.autoCommitDisabled();
// 设置MVStore为只读模式,不能进行写操作。builder.readOnly();
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. 设置MVStore的缓存大小,单位为MB,默认为16MB。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
// 禁用自动提交事务,需要手动提交。builder.autoCommitDisabled();
// 设置MVStore为只读模式,不能进行写操作。// builder.readOnly();// 设置MVStore的缓存为 8MB,默认为16MBbuilder.cacheSize(8);
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. pageSplitSize(int pageSplitSize):数据页的大小是通过pageSplitSize方法进行设置的,默认值为4KB。MVStore使用了数据页的概念来管理存储的数据,将较大的数据文件拆分成多个小的数据页,以提高性能。每个数据页的大小是通过pageSplitSize方法进行设置的,默认值为4KB。当MVStore在写入数据时,首先会将数据写入内存缓存中,当缓存中的数据达到一定大小后,会将数据刷新到磁盘上,并拆分成多个数据页。如果数据大小超过了pageSplitSize的设置值,则会拆分成多个数据页。因此,pageSplitSize的设置值会影响数据拆分的粒度,进而影响MVStore的性能。 通常情况下,pageSplitSize的默认值可以满足大部分应用的需要。如果需要调整MVStore的性能,可以根据实际情况适当调整pageSplitSize的值。需要注意的是,pageSplitSize的值必须是2的幂次方。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
builder.encryptionKey("my_h2".toCharArray());
/*** 使用 LZF 算法在写入之前压缩数据。这将节省* 大约 50% 的磁盘空间,但会减慢读写速度操作轻微* */builder.compress();
// 禁用自动提交事务,需要手动提交。builder.autoCommitDisabled();
// 设置MVStore为只读模式,不能进行写操作。// builder.readOnly();builder.pageSplitSize(500);
builder.fileName(fileName);
MVStorestore=builder.open();

复制

  1. open():使用builder中的配置选项创建MVStore实例。
StringfileName="/Users/chenfei/temp/my_store.db";
MVStore.Builderbuilder=newMVStore.Builder();
MVStorestore=builder.open();

复制

生成MVStore实例的过程

如果是纯内存模式,它的 file header 就为空。只有是磁盘模式的时候才有 file header。

1、生成 MVMap

// 生成一个名为 cache_data 的 MVMap 对象
store.openMap("cache_data");

复制

MVStore 执行  openMap 方法的时候,如果 map 不存在就新建,存在就直接打开。如果是纯内存模式的,则是新建。

mvmap.png


2、MVMap 保存或者删除数据的过程

mvmap_put.png


3、MVStore 提交的过程

在 MVStore 中添加或者是删除数据,为了效率都是在内存中执行的,并没有刷到磁盘上,如果要刷到磁盘上需要调用 commite 方法。

store_commit.png


4、MVMap 查询的过程

mvmap_get.png


如果大家对存储内核有兴趣的话,可以加入 DawnSql 交流群,告诉我,我会继续写下去。DawnSql 交流群,在 https://docs.dawnsql.com/ 的首页可以查看(打开有点慢,稍等一下就可以了)

说明一点:有些朋友有疑问,为什么 DawnSql 选择 h2 的存储内核,而不是去重新做一个?这里主要是为了高用性!h2 作为成熟的数据库存储内核,已经在实际的项目中应用了多年,它是经得起考验的。如果新做存储内核,可能会给使用者带来高可用性上面的顾虑,所以我们再三权衡后选择更稳定可用性更高的方案。当然随着 DawnSql 的发展和根据企业方的要求,我们也可以对其进行修改和重构!


相关文章
|
26天前
|
存储 SQL Cloud Native
揭秘!PolarDB-X存储引擎如何玩转“时间魔术”?Lizard多级闪回技术让你秒回数据“黄金时代”!
【8月更文挑战第25天】PolarDB-X是一款由阿里巴巴自主研发的云原生分布式数据库,以其高性能、高可用性和出色的可扩展性著称。其核心竞争力之一是Lizard存储引擎的多级闪回技术,能够提供高效的数据恢复与问题诊断能力。本文通过一个电商公司的案例展示了一级与二级闪回技术如何帮助快速恢复误删的大量订单数据,确保业务连续性不受影响。一级闪回通过维护最近时间段内历史数据版本链,支持任意时间点查询;而二级闪回则通过扩展数据保留时间并采用成本更低的存储方式,进一步增强了数据保护能力。多级闪回技术的应用显著提高了数据库的可靠性和灵活性,为企业数据安全保驾护航。
30 1
|
4月前
|
存储 小程序 编译器
深度剖析数据在内存中的存储
深度剖析数据在内存中的存储
51 1
|
4月前
|
存储 C语言
深度剖析数据在内存中的存储(超详细版){上}
深度剖析数据在内存中的存储(超详细版)
35 0
|
4月前
|
存储
深度剖析数据在内存中的存储(超详细版){下}
深度剖析数据在内存中的存储(超详细版){下}
36 0
|
10月前
|
存储 小程序 编译器
深度剖析数据在内存中的存储【超详解】
深度剖析数据在内存中的存储【超详解】
|
存储 小程序 编译器
【数据的存储】(深度剖析)
带你深度剖析数据在内存中的存储
|
存储 小程序 编译器
深度剖析数据在内存中的存储(上)
深度剖析数据在内存中的存储(上)
72 0
|
存储 C语言
把玩数据在内存中的存储
前言:时光如梭,今天到了C语言进阶啦,基础知识我们已经有了初步认识, 是时候该拔高拔高自己了。 目标:掌握浮点数在内存的存储,整形在内存的存储。 鸡汤:时光易过,岁月蹉跎。
107 0
|
存储 网络协议
【深度剖析】数据在内存中的存储(下)
【深度剖析】数据在内存中的存储
74 0
|
存储
【深度剖析】数据在内存中的存储(上)
【深度剖析】数据在内存中的存储
88 0