PostgreSQL 优化CASE - 有序UUID插件

简介: 标签PostgreSQL , uuid , 无序uuid , 索引分裂 , io , 性能诊断背景无序UUID会带来很多问题,例如索引分裂膨胀,离散IO,WAL膨胀等,详见以前的分析。Regular random UUIDs are distributed uniformly over the whole range of possible values.

标签

PostgreSQL , uuid , 无序uuid , 索引分裂 , io , 性能诊断


背景

无序UUID会带来很多问题,例如索引分裂膨胀,离散IO,WAL膨胀等,详见以前的分析。

Regular random UUIDs are distributed uniformly over the whole range of possible values.

This results in poor locality when inserting data into indexes -

all index leaf pages are equally likely to be hit, forcing the whole index into memory.

With small indexes that's fine, but once the index size exceeds shared buffers (or RAM), the cache hit ratio quickly deteriorates.

《PostgreSQL 优化CASE - 无序UUID性能问题诊断》

《PostgreSQL sharding有序UUID最佳实践 - serial global uuid stored in 64bit int8》

https://blog.2ndquadrant.com/sequential-uuid-generators/

如何生成有序UUID呢?

以下是Instagram的做法

《PostgreSQL sharding有序UUID最佳实践 - serial global uuid stored in 64bit int8》

除此之外,还可以使用sequential-uuids这个插件:

https://github.com/tvondra/sequential-uuids

sequential-uuids插件例子

UUID为16字节类型,生成算法:在16字节的可枚举空间里随机生成,因此可以认为整个索引的所有页面都是热的,因为新生成的UUID值可能写入索引的任意位置。当UUID列的索引超出内存大小时,持续写入会不可避免的会引入较多的磁盘操作(FULL PAGE WRITE(由于可能写任意PAGE))。

而传统的序列方式的UUID,实际上是往一个方向递增会递减的。主要的问题:

1、对撞,由于取值范围降到了8字节(BIGINT的序列,或者时间戳(取决于精度))。所以对撞空间比UUID(16字节)小了,容易出现重复。

2、BTREE里面,往一个方向递增,如果一次性大量删除历史数据,会导致那些索引页全部废弃,导致膨胀。(当然,如果后续还有数据持续写入,那些完全删除了数据的索引页还可以被重复利用。)

为了解决这2个问题,提出了GUID的概念

https://en.wikipedia.org/wiki/Universally_unique_identifier

http://www.informit.com/articles/article.aspx?p=25862

GUID,实际上就是把数据拆成两部分,一部分自增,一部分随机。同样整个类型使用的是16字节。例如prefix部分使用自增(在有限空间内WRAP,重复使用),另一部分使用随机。同时解决了以上两个问题。

sequential-uuids插件就是这个思路实现的,

(block ID; random data)  

提供了两种prefix算法:

1、prefix为自增序列,如果block ID使用2字节存储,一个索引BLOCK里面可以存储256条记录(假设8K的BLOCK,一条记录包括uuid VALUE(16字节)以及ctid(6字节),所以一个索引页约存储363条记录(8000/(16+6)))

uuid_sequence_nextval(sequence regclass, block_size int default 65536, block_count int default 65536)  
/*  
 * uuid_sequence_nextval  
 *	generate sequential UUID using a sequence  
 *  
 * The sequence-based sequential UUID generator define the group size  
 * and group count based on number of UUIDs generated.  
 *  
 * The block_size (65546 by default) determines the number of UUIDs with  
 * the same prefix, and block_count (65536 by default) determines the  
 * number of blocks before wrapping around to 0. This means that with  
 * the default values, the generator wraps around every ~2B UUIDs.  
 *  
 * You may increase (or rather decrease) the parameters if needed, e.g,  
 * by lowering the block size to 256, in wich case the cycle interval  
 * is only 16M values.  
 */  

如下,假设block_size设置为256,则表示每256个连续值的prefix是一样的。

(nextval('seq') / 256) % 65536  

意思是每256条记录,从0开始,prefix递增1,到65535后循环。

seq=1, prefix=0  
  
seq=2, prefix=0  
  
seq=256, prefix=1  
  
...  

2、prefix为时间戳。

uuid_time_nextval(interval_length int default 60, interval_count int default 65536) RETURNS uuid  
/*  
 * uuid_time_nextval  
 *	generate sequential UUID using current time  
 *  
 * The timestamp-based sequential UUID generator define the group size  
 * and group count based on data extracted from current timestamp.  
 *  
 * The interval_length (60 seconds by default) is defined as number of  
 * seconds where UUIDs share the same prefix). The prefix length is  
 * determined by the number of intervals (65536 by default, i.e. 2B).  
 * With these parameters the generator wraps around every ~45 days.  
 */  

默认每60秒内的数据prefix是一样的,prefix递增1,到65535后循环。

(timestamp / 60) % 65536  

65535为prefix使用掉的字节数的取值空间,例如2字节,则为65536。

使用举例:

git clone https://github.com/tvondra/sequential-uuids  
cd sequential-uuids/  
USE_PGXS=1 make  
USE_PGXS=1 make install  
postgres=# create sequence seq;  
CREATE SEQUENCE  
postgres=# select uuid_sequence_nextval('seq'::regclass);  
        uuid_sequence_nextval           
--------------------------------------  
 0000c98b-24e3-648d-d974-31a2a23e3f49  
(1 row)  
postgres=# select uuid_sequence_nextval('seq'::regclass,256);  
        uuid_sequence_nextval           
--------------------------------------  
 0000a807-5878-05c1-7379-262e74e2d83e  
(1 row)  
  
postgres=# select uuid_sequence_nextval('seq'::regclass,256);  
        uuid_sequence_nextval           
--------------------------------------  
 00005da3-473e-61d7-d2aa-ef3c0ad5ad3d  
(1 row)  
  
postgres=# select uuid_time_nextval();  
          uuid_time_nextval             
--------------------------------------  
 97a52b75-fbc0-8758-eecf-be213e66f388  
(1 row)  
  
postgres=# select uuid_time_nextval(300);  
          uuid_time_nextval             
--------------------------------------  
 84bab38b-87d5-17cd-07d3-93bd0c30d919  
(1 row)  
  
postgres=# select uuid_time_nextval(300);  
          uuid_time_nextval             
--------------------------------------  
 84bacffe-69fb-7464-bbfb-bca9ca7bcb08  
(1 row)  

参考

https://github.com/tvondra/sequential-uuids

《PostgreSQL 优化CASE - 无序UUID性能问题诊断》

《PostgreSQL sharding有序UUID最佳实践 - serial global uuid stored in 64bit int8》

https://blog.2ndquadrant.com/sequential-uuid-generators/

https://github.com/tvondra/sequential-uuids/blob/master/sequential_uuids.c

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍如何基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
目录
相关文章
|
6月前
|
SQL 缓存 关系型数据库
MySQL 慢查询是怎样优化的
本文深入解析了MySQL查询速度变慢的原因及优化策略,涵盖查询缓存、执行流程、SQL优化、执行计划分析(如EXPLAIN)、查询状态查看等内容,帮助开发者快速定位并解决慢查询问题。
271 0
|
4月前
|
缓存 关系型数据库 MySQL
降低MySQL高CPU使用率的优化策略。
通过上述方法不断地迭代改进,在实际操作中需要根据具体场景做出相对合理判断。每一步改进都需谨慎评估其变动可能导致其他方面问题,在做任何变动前建议先在测试环境验证其效果后再部署到生产环境中去。
230 6
|
10月前
|
SQL 关系型数据库 MySQL
MySQL进阶突击系列(07) 她气鼓鼓递来一条SQL | 怎么看执行计划、SQL怎么优化?
在日常研发工作当中,系统性能优化,从大的方面来看主要涉及基础平台优化、业务系统性能优化、数据库优化。面对数据库优化,除了DBA在集群性能、服务器调优需要投入精力,我们研发需要负责业务SQL执行优化。当业务数据量达到一定规模后,SQL执行效率可能就会出现瓶颈,影响系统业务响应。掌握如何判断SQL执行慢、以及如何分析SQL执行计划、优化SQL的技能,在工作中解决SQL性能问题显得非常关键。
|
5月前
|
存储 SQL 关系型数据库
MySQL 核心知识与索引优化全解析
本文系统梳理了 MySQL 的核心知识与索引优化策略。在基础概念部分,阐述了 char 与 varchar 在存储方式和性能上的差异,以及事务的 ACID 特性、并发事务问题及对应的隔离级别(MySQL 默认 REPEATABLE READ)。 索引基础部分,详解了 InnoDB 默认的 B+tree 索引结构(多路平衡树、叶子节点存数据、双向链表支持区间查询),区分了聚簇索引(数据与索引共存,唯一)和二级索引(数据与索引分离,多个),解释了回表查询的概念及优化方法,并分析了 B+tree 作为索引结构的优势(树高低、效率稳、支持区间查询)。 索引优化部分,列出了索引创建的六大原则
148 2
|
SQL 关系型数据库 MySQL
深入解析MySQL的EXPLAIN:指标详解与索引优化
MySQL 中的 `EXPLAIN` 语句用于分析和优化 SQL 查询,帮助你了解查询优化器的执行计划。本文详细介绍了 `EXPLAIN` 输出的各项指标,如 `id`、`select_type`、`table`、`type`、`key` 等,并提供了如何利用这些指标优化索引结构和 SQL 语句的具体方法。通过实战案例,展示了如何通过创建合适索引和调整查询语句来提升查询性能。
2564 10
|
5月前
|
存储 SQL 关系型数据库
MySQL 动态分区管理:自动化与优化实践
本文介绍了如何利用 MySQL 的存储过程与事件调度器实现动态分区管理,自动化应对数据增长,提升查询性能与数据管理效率,并详细解析了分区创建、冲突避免及实际应用中的关键注意事项。
230 0
|
7月前
|
存储 SQL 关系型数据库
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?
|
6月前
|
固态存储 关系型数据库 数据库
从Explain到执行:手把手优化PostgreSQL慢查询的5个关键步骤
本文深入探讨PostgreSQL查询优化的系统性方法,结合15年数据库优化经验,通过真实生产案例剖析慢查询问题。内容涵盖五大关键步骤:解读EXPLAIN计划、识别性能瓶颈、索引优化策略、查询重写与结构调整以及系统级优化配置。文章详细分析了慢查询对资源、硬件成本及业务的影响,并提供从诊断到根治的全流程解决方案。同时,介绍了索引类型选择、分区表设计、物化视图应用等高级技巧,帮助读者构建持续优化机制,显著提升数据库性能。最终总结出优化大师的思维框架,强调数据驱动决策与预防性优化文化,助力优雅设计取代复杂补救,实现数据库性能质的飞跃。
972 0
|
9月前
|
存储 关系型数据库 MySQL
MySQL细节优化:关闭大小写敏感功能的方法。
通过这种方法,你就可以成功关闭 MySQL 的大小写敏感功能,让你的数据库操作更加便捷。
725 19
|
10月前
|
关系型数据库 MySQL 数据库
从MySQL优化到脑力健康:技术人与效率的双重提升
聊到效率这个事,大家应该都挺有感触的吧。 不管是技术优化还是个人状态调整,怎么能更快、更省力地完成事情,都是我们每天要琢磨的事。
283 23

相关产品

  • 云原生数据库 PolarDB
  • 云数据库 RDS PostgreSQL 版
  • 推荐镜像

    更多