《重学Java高并发》Disruptor使用实战

简介: 《重学Java高并发》Disruptor使用实战

上文已经详细介绍了disruptor,也体会了并发编程的奥妙,接下来将理论结合实战,本文和大家分享一下disruptor的使用,加深对disruptor工具包对理解。


1、 disruptor常用类一览


disruptor的常用类体系如下图所示:

6ed5d300b84bc4fcabfd1e3afb91d2ac.png

其职责说明如下:


  • RingBuffer 环形队列,disruptor中的核心存储类
  • Sequencer 序号实现器,维护发送者发送的序号生成逻辑、消费方获取可消费的序号,是无锁化访问的核心实现类,共有两个实现类,MultiProducerSequencer为多生产者实现类、SingleProducerSequencer单生产者实现类。
  • WaitStrategy 等待策略,消息发送者在容器已写满时、消费者在无消费数据时的等待策略,disruptor提供了N种实现类:

WaitStrategy在创建RingBuffer时指定,默认为BlockingWaitStrategy

  • BlockingWaitStrategy 基于juc的阻塞等待。
  • LiteTimeoutBlockingWaitStrategy 带超时时间的阻塞等待。
  • YieldingWaitStrategy 先自旋100次,如果还不满足条件,则每次调用yield方法,让出CPU,重新参与调度。
  • BusySpinWaitStrategy 自旋,直到满足条件,生产环境慎用
  • TimeoutBlockingWaitStrategy 带超时时间的阻塞等待,与LiteTimeoutBlockingWaitStrategy的区别是TimeoutBlockingWaitStrategy等待时间必须严格低于设定的值。
  • SleepingWaitStrategy 前100次自旋每一次都调用yield,然后阻塞1ms ,继续重试。
  • PhasedBackoffWaitStrategy 组合策略,可以指定上述策略,然后退化为 yield自旋。
  • SequenceBarrier 序号栈栏。在流水线上有多个步骤,后一个步骤必须依赖前一个步骤的完成,栈栏的作用就在于此。
  • EventFactory
    事件生成器工厂类,RingBuffer的设计为力避免频繁的垃圾回收,在RingBuffer中存储的值会预先创建,生产者获取一个Event对象,并填充具体的值,故通常事件对象通常创建的事一个包装类。
  • EventProcessor 事件处理器,disruptor中提供了两类事件处理器WorkProcessorBatchEventProcessor(批处理),它的职责是从RingBuffer中获取可消费的事件,然后调用EventHandler的onEvent方法。
  • EventHandler事件处理器在获取一个可处理的事件后调用EventHandler的onEvent方法,这也是用户自定处理程序的入口,即编写用户业务代码的扩展点
  • ExceptionHandler 异常处理策略。


2、disruptor在canal中的运用


首先以笔者在工作中遇到一个经典使用场景来和大家观摩一下disruptor的基本使用。

在互联网行业中有一种经典的读写分离架构:数据异构,以物流下单为示例,通常关系型数据库只负责订单的创建业务,而关于订单查询、订单轨迹查询等查询类业务,通常会去查询es,依此来降低数据库压力,但接踵而来的问题是如何将数据库的数据准实时同步到Es呢?canal闪亮登场,其核心理念就是订阅并解析binlog,其基本的流程如下:

9f06c8c06cb1d92ca388de6f40215892.png

在示例中解析binlog的目的是提取数据的变化,即DML语句(插入、更新、删除),将这些数据变更在目标端进行重放,为了提高性能,采用disruptor框架提高性能,该如何实现呢?


  • 将解析动作分解为两步,第一步判断事件是否是dml事件,即是否需要解析。
  • 解析dml


为什么要这样拆分呢?一是将粒度降低,解耦,灵活提供不一样的并发度。

接下来我们看一下canal中是如何使用disruptor来解决该问题的。


2.1 创建EventFactory


首先需要创建一个EventFactory,用于填充RingBuffer中的对象,避免过多垃圾回收。

74e86fdb5949a5af46e993ba1fd0420a.png


2.2 创建RingBuffer


根据bingo dump协议,mysql的解析线程创建一个,故该场景下的事件发送者只有一个,创建一个单生产者的RingBuffer,其代码如下:

1ecf9674179fd420774623b714cc3fa8.png


2.3 创建相关的业务Handler


在该场景中需要定义两个handler,由于是具体的业务逻辑,这里不做详细介绍,简单截图说明如下:

8be169dab7c4ba724b98e7551e66ac16.png


2.4 创建栅栏(顺序性保证)


由于binlog解析场景有一个特殊的场景:并发解析但不能破坏顺序性语义。

9b8b711a78255a35f0851540e87c59ea.png


2.5创建事件处理器


6e951275fca482f1ac1891bca7248880.png

在解析事件类型、元数据时采用了BatchEventProcessor,但使用了批处理机制;而在解析dml具体数据时采用了WorkProcessor,支持多线程并发解析。


值得注意的是dml解析器必须依赖元数据解析器,故这里需要引入栈栏,具体是利用RingBuffer的addGatingSequences方法依次将自身处理器的sequences加入到RingBuffer中。


2.6 生产者端代码模板


生长者这边主要是将数据写入到RingBuffer中,从而让下游消费。

9c349def520523f6d2a9cc550a4f9bd5.png

上述代码的特点:


  • 使用 do while 循环,持续放入。
  • 首先调用 RingBuffer的tryNext,尝试获取一个可写的序号,如果获取不到,则重试。
  • 获取一个可写序号号,将值进行填充,然后调用publish方法进行发布,让消费端可感知。
相关文章
|
4月前
|
存储 人工智能 算法
从零掌握贪心算法Java版:LeetCode 10题实战解析(上)
在算法世界里,有一种思想如同生活中的"见好就收"——每次做出当前看来最优的选择,寄希望于通过局部最优达成全局最优。这种思想就是贪心算法,它以其简洁高效的特点,成为解决最优问题的利器。今天我们就来系统学习贪心算法的核心思想,并通过10道LeetCode经典题目实战演练,带你掌握这种"步步为营"的解题思维。
|
4月前
|
安全 Java 开发者
告别NullPointerException:Java Optional实战指南
告别NullPointerException:Java Optional实战指南
309 119
|
5月前
|
人工智能 Java API
Java AI智能体实战:使用LangChain4j构建能使用工具的AI助手
随着AI技术的发展,AI智能体(Agent)能够通过使用工具来执行复杂任务,从而大幅扩展其能力边界。本文介绍如何在Java中使用LangChain4j框架构建一个能够使用外部工具的AI智能体。我们将通过一个具体示例——一个能获取天气信息和执行数学计算的AI助手,详细讲解如何定义工具、创建智能体并处理执行流程。本文包含完整的代码示例和架构说明,帮助Java开发者快速上手AI智能体的开发。
1909 8
|
5月前
|
人工智能 Java API
Java与大模型集成实战:构建智能Java应用的新范式
随着大型语言模型(LLM)的API化,将其强大的自然语言处理能力集成到现有Java应用中已成为提升应用智能水平的关键路径。本文旨在为Java开发者提供一份实用的集成指南。我们将深入探讨如何使用Spring Boot 3框架,通过HTTP客户端与OpenAI GPT(或兼容API)进行高效、安全的交互。内容涵盖项目依赖配置、异步非阻塞的API调用、请求与响应的结构化处理、异常管理以及一些面向生产环境的最佳实践,并附带完整的代码示例,助您快速将AI能力融入Java生态。
868 12
|
5月前
|
Java 开发者
Java并发编程:CountDownLatch实战解析
Java并发编程:CountDownLatch实战解析
516 100
|
5月前
|
存储 前端开发 Java
【JAVA】Java 项目实战之 Java Web 在线商城项目开发实战指南
本文介绍基于Java Web的在线商城技术方案与实现,涵盖三层架构设计、MySQL数据库建模及核心功能开发。通过Spring MVC + MyBatis + Thymeleaf实现商品展示、购物车等模块,提供完整代码示例,助力掌握Java Web项目实战技能。(238字)
622 0
|
5月前
|
数据采集 存储 弹性计算
高并发Java爬虫的瓶颈分析与动态线程优化方案
高并发Java爬虫的瓶颈分析与动态线程优化方案
|
6月前
|
数据采集 JSON Java
Java爬虫获取1688店铺所有商品接口数据实战指南
本文介绍如何使用Java爬虫技术高效获取1688店铺商品信息,涵盖环境搭建、API调用、签名生成及数据抓取全流程,并附完整代码示例,助力市场分析与选品决策。
|
6月前
|
算法 Java 开发者
Java流程控制:条件与循环结构实战
本文深入讲解编程中的流程控制结构,涵盖条件语句(if-else、switch)、循环结构(for、while、do-while)及循环控制关键字(break、continue)的使用技巧与实战案例,帮助开发者写出更清晰、高效的代码。
|
6月前
|
Java API Maven
2025 Java 零基础到实战最新技术实操全攻略与学习指南
本教程涵盖Java从零基础到实战的全流程,基于2025年最新技术栈,包括JDK 21、IntelliJ IDEA 2025.1、Spring Boot 3.x、Maven 4及Docker容器化部署,帮助开发者快速掌握现代Java开发技能。
1265 1