【DB吐槽大会】第4期 - PG 逻辑日志只有全局开关

简介: 大家好,这是DB吐槽大会,第4期 - PG 逻辑日志只有全局开关

背景



1、产品的问题点

  • PG 逻辑日志只有全局开关

2、问题点背后涉及的技术原理

  • 如果要支持逻辑增量订阅, 必须开启逻辑日志(wal_level=logical), 开启后在wal日志中会写入解析逻辑日志的内容, 而这个开关只能全局设置. (REPLICA IDENTITY=nothing只能控制old value, 不能控制insert造成的logical log)

3、这个问题将影响哪些行业以及业务场景

  • SaaS行业
  • 多地1中心的只需要跨地域共享少部分数据表的场景. 例如政务类业务、多地域部署的游戏、社交业务.

4、会导致什么问题?

  • 开启wal_level=logical后, 日志量会有较大增加. 如果订阅的表比较少, 实际有用的logical日志占比较少, 造成较大浪费.
  • 如果订阅的表比较少, 在wal sender端解析时依旧需要解析并过滤不需要的wal, 所以会造成wal的读浪费, CPU解析浪费.

5、业务上应该如何避免这个坑

  • 业务设计时把需要共享的少部分表拆出, 使用单独的PG实例.

6、业务上避免这个坑牺牲了什么, 会引入什么新的问题

  • 增加了复杂度, 需要重新设计实例, 如果时已有业务, 还需要考虑表于表之间是否有依赖关系, 比较复杂.

7、数据库未来产品迭代如何修复这个坑

  • 等内核层支持表级的wal logical开关?



相关实践学习
通过日志服务实现云资源OSS的安全审计
本实验介绍如何通过日志服务实现云资源OSS的安全审计。
相关文章
若依修改-----其他功能,包括参数设置,通知公告,日志管理,验证码控制开关在参数设置里,若依的注册页面是隐藏的,在src的login.vue的97行注册开发,修改成true,通知公告,促进组织内部信
若依修改-----其他功能,包括参数设置,通知公告,日志管理,验证码控制开关在参数设置里,若依的注册页面是隐藏的,在src的login.vue的97行注册开发,修改成true,通知公告,促进组织内部信
|
Kubernetes 关系型数据库 API
实时计算 Flink版产品使用问题之连接的PG表长时间无数据写入,WAL日志持续增长,该如何解决
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
关系型数据库 MySQL
日志开始恢复后8小时,连接会断开 Aborted connection 4 to db
从日志中观察到,日志开始恢复后8小时,连接会断开
371 0
|
IDE Java API
Gradle | 全局配置、Log开关控制、Build Variant、meta-data等配置
Gradle是一个先进的构建系统,也是一个允许通过插件创建自定义构建逻辑先进的构建工具。
930 0
|
存储 文件存储 Python
Python 教程:日志功能与处理逻辑
在应用程序执行过程中,我们希望通过规范格式输出程序执行的详细信息,这时我们需要用到日志功能。在 Python 语言中,有个內建模块 logging 能够很好的实现日志功能。整体来说,`logging` 配置可以分成 4 个部分: `Loggers`、`Handlers`、`Filters` 和 `Formatters`。接下来我们详细探讨其处理逻辑和配置方法。
295 0
|
SQL Oracle 关系型数据库
【DB吐槽大会】第39期 - PG 物化视图不支持基于log的增量刷新
大家好,这里是DB吐槽大会,第39期 - PG 物化视图不支持基于log的增量刷新
|
SQL 关系型数据库 Java
【DB吐槽大会】第16期 - PG Standby不支持解析逻辑日志
大家好,这里是DB吐槽大会,第16期 - PG Standby不支持解析逻辑日志
|
监控 安全 Apache
什么是Apache日志?为什么Apache日志分析很重要?
Apache是全球广泛使用的Web服务器软件,支持超过30%的活跃网站。它通过接收和处理HTTP请求,与后端服务器通信,返回响应并记录日志,确保网页请求的快速准确处理。Apache日志分为访问日志和错误日志,对提升用户体验、保障安全及优化性能至关重要。EventLog Analyzer等工具可有效管理和分析这些日志,增强Web服务的安全性和可靠性。
511 9
|
11月前
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
1052 54