非阻塞同步算法实战(二):BoundlessCyclicBarrier

简介: 相比上一篇而言,本文不需要太多的准备知识,但技巧性更强一些。因为分析、设计的过程比较复杂繁琐,也限于篇幅,所以,主要展示如何解决这些需求,和讲解代码。另外,所讲的内容也是后一篇实战中需要用到的一个工具类。

前言

相比上一篇而言,本文不需要太多的准备知识,但技巧性更强一些。因为分析、设计的过程比较复杂繁琐,也限于篇幅,所以,主要展示如何解决这些需求,和讲解代码。另外,所讲的内容也是后一篇实战中需要用到的一个工具类。


需求介绍

我需要编写一个同步工具,它需要提供这样几个方法:await、pass、cancel。某个线程调用await时,会被阻塞;当调用pass方法时,之前因为await而阻塞的线程将全部被解除阻塞,之后调用await的线程继续被阻塞,直到下一次调用pass。


该工具同时还维护一个版本号,await方法可以带一个目标版本号,如果当前的版本号比目标版本号新或相同,则直接通过,否则,阻塞本线程,直到到达或超过目标版本。调用pass的时候,更新版本号。


如果停止了版本更新,可使用cancel方法来解除所有因await而阻塞的线程,包括指定版本号的。此方法用于避免无谓地等待。若await发生在cancel之后,则仍将被阻塞。


因为CountDownLatch不允许重复使用,CyclicBarrier只支持固定个数的线程,并且都没有维护一个版本号,所以没有已有的类能实现上面的需求,需要自己实现。


问题分析

简单分析可知,应该维护一个队列,来保存当前被阻塞的线程,用于在pass时对它们一一解除阻塞,pass时应该使用一个新的队列,否则不方便正确处理pass前和pass后调用await的线程。


至此,问题的关键就明了了:如何将队列的替换和版本号的更新这两个操作做成原子的。


解决方案

以前在《JAVA并发编程实践》曾看到过这样一个小技巧,如果要原子地更新两个变量,那么可以创建一个新的类将它们封装起来,将这两个变量当定义成类成员变量,更新时,用CAS更新这个类的引用即可。

因为较为复杂,下面先给出完整的代码,再讲解其中的关键。

注意:上面所说pass,在代码中的具体实现为nextCycle,有两个版本,一个自动维护版本号,一个由调用者维护版本号。

/**

* @author trytocatch@163.com

* @time 2013-1-31

*/

publicclassBoundlessCyclicBarrier {

   protectedfinal AtomicReference waitQueueRef;

   publicBoundlessCyclicBarrier() {

       this(0);

   }

   publicBoundlessCyclicBarrier(int startVersion) {

       waitQueueRef = newAtomicReference(newVersionQueue(startVersion));

   }

   publicfinalvoidawaitWithAssignedVersion(int myVersion)

           throws InterruptedException {

       awaitImpl(true, myVersion, 0);

   }

   /**

    *

    * @param myVersion

    * @param nanosTimeout

    * @return if timeout, or be canceled and doesn't reach myVersion, returns false

    * @throws InterruptedException

    */

   publicfinalbooleanawaitWithAssignedVersion(int myVersion, long nanosTimeout)throws InterruptedException {

       return awaitImpl(true, myVersion, nanosTimeout);

   }

   publicfinalvoidawait()throws InterruptedException {

       awaitImpl(false, 0, 0);

   }

   /**

    *

    * @param nanosTimeout

    * @return if and only if timeout, returns false

    * @throws InterruptedException

    */

   publicfinalbooleanawait(long nanosTimeout)

           throws InterruptedException {

       return awaitImpl(false, 0, nanosTimeout);

   }

   /**

    * pass and version++(some threads may not be unparked when awaitImpl is in process, but it's OK in this Barrier)

    * @return old queue version

    */

   publicintnextCycle() {

       VersionQueueoldQueue= waitQueueRef.get();

       VersionQueuenewQueue=newVersionQueue(oldQueue.version + 1);

       for(;;){

           if (waitQueueRef.compareAndSet(oldQueue, newQueue)) {

               for (Thread t : oldQueue.queue)

                   LockSupport.unpark(t);

               break;

           }

           oldQueue = waitQueueRef.get();

           newQueue.version = oldQueue.version + 1;

       }

       return oldQueue.version;

   }

   /**

    * pass and assign the next cycle version(caller should make sure that the newAssignVersion is right)

    * @param newAssignVersion

    */

   publicvoidnextCycle(int newAssignVersion) {

       VersionQueueoldQueue= waitQueueRef.getAndSet(newVersionQueue(newAssignVersion));

       for (Thread t : oldQueue.queue)

           LockSupport.unpark(t);

   }

   /**

    * if version update has stopped, invoke this to awake all threads

    */

   publicvoidcancel(){

       VersionQueueoldQueue= waitQueueRef.get();

       if (waitQueueRef.compareAndSet(oldQueue, newVersionQueue(oldQueue.version, true))) {

           for (Thread t : oldQueue.queue)

               LockSupport.unpark(t);

   }

   publicfinalintgetVersion() {

       return waitQueueRef.get().version;

   }

   privatestaticfinalclassVersionQueue {

       finalprivate ConcurrentLinkedQueue queue;

       int version;

       finalboolean isCancelQueue;

       VersionQueue(int curVersion){

           this(curVersion, false);

       }

       VersionQueue(int curVersion, boolean isCancelQueue) {

           this.version = curVersion;

           this.isCancelQueue = isCancelQueue;

           queue = newConcurrentLinkedQueue();

       }

   }

   /**

    *

    * @param assignVersion is myVersion available

    * @param myVersion wait for this version

    * @param nanosTimeout wait time(nanosTimeout <=0 means that nanosTimeout is invalid)      * @return if timeout, or be canceled and doesn't reach myVersion, returns false      * @throws InterruptedException      */     protectedbooleanawaitImpl(boolean assignVersion, int myVersion,             long nanosTimeout)throws InterruptedException {         booleantimeOutEnable= nanosTimeout > 0;

       longlastTime= System.nanoTime();

       VersionQueuenewQueue= waitQueueRef.get();//A

       if (assignVersion && newQueue.version - myVersion >= 0)

           returntrue;

       while (true) {

           VersionQueuesubmitQueue= newQueue;//B

           submitQueue.queue.add(Thread.currentThread());//C

           while (true) {

               newQueue = waitQueueRef.get();//D

               if (newQueue != submitQueue){//E: it's a new cycle

                   if(assignVersion == false)

                       returntrue;

                   elseif(newQueue.version - myVersion >= 0)

                       returntrue;

                   elseif (newQueue.isCancelQueue)//F: be canceled

                       returnfalse;

                   else//just like invoking awaitImpl again

                       break;

               }

               if (timeOutEnable) {

                   if (nanosTimeout <= 0)

                       returnfalse;

                   LockSupport.parkNanos(this, nanosTimeout);

                   longnow= System.nanoTime();

                   nanosTimeout -= now - lastTime;

                   lastTime = now;

               } else

                   LockSupport.park(this);

               if (Thread.interrupted())

                   thrownewInterruptedException();

           }

       }

   }

}


代码分析

先分析一下awaitImpl方法,A和D是该方法的关键点,决定着它属于哪一个批次,对应哪一个版本。这里有个小细节,在nexeCycle,cancel解除阻塞时,该线程可能并不在队列中,因为插入队列发生在C处,这在A和D之后(虽然看起来C在D之前,但D取到的queue要在下一次循环时才被当作submitQueue),所以,在E处再进行了一次判断,开始解除阻塞时,旧队列肯定被新队列所替换,newQueue != submitQueue一定为真,就会不调用park进行阻塞了,也就不需要解除阻塞,所以即使解除阻塞时,该线程不在队列中也是没问题的。


再看E处,当进入一个新的cycle时(当前队列与提交的队列不同),a)如果没指定版本,或者到达或超过了指定版本,则返回true;b)如果当前调用了cancel,则当前队列的isCancelQueue将为true,则不继续傻等,返回false;c)或者还未到达指定版本,break,插入到当前队列中,继续等待指定版本的到达。


如果没有进入E处的IF内,则当前线程会被阻塞,直到超时,然后返回false;或被中断,然后抛出InterruptedException;或被解除阻塞,重新进行E处的判定。


这里还有个小细节,既然cancel时,把当前的队列设置了isCancelQueue,那么之后指定版本的await会不会也直接返回了呢?其实不会的,因为它若要执行F处的判断,则先必需通过E处的判定,这意味着,当前队列已经不是提交时的那个设置了isCancelQueue的队列了。


代码中对于cancel的处理,其实并不保证cancel后,之前的await都会被解除阻塞并返回,如果cancel后,紧接着又调用了nextCycle,那么可能某线程感知不到cancel的调用,唤醒后又继续等待指定的版本。cancel的目的是在于不让线程傻等,既然恢复版本更新了,那就继续等待吧。


如果自己维护版本号,则应该保证递增。另外,版本号的设计,考虑到了int溢出的情况,版本的前后判断,我不是使用newVersion>=oldVersion,而是newVersion-oldVersion>=0,这样,版本号就相当于循环使用了,只要两个比较的版本号的差不超过int的最大值,那么都是正确的,int的最大值可是20多亿,几乎不可能出现跨度这么大的两个版本号的比较,所以,认为它是正确的。


小结

本文讲到了一个非阻塞同步算法设计时的小技巧,如果多个变量之间要维护某种特定关系,那么可以将它们封装到一个类中,再用CAS更新这个类的引用,这样就达到了:要么都被更新,要么都没被更新,保持了多个变量之间的一致性。同时需要注意的是,每次更新都必需创建新的包装对象,假如有其它更好的办法,应该避免使用该方法。


相关文章
|
2月前
|
算法 数据可视化 测试技术
HNSW算法实战:用分层图索引替换k-NN暴力搜索
HNSW是一种高效向量检索算法,通过分层图结构实现近似最近邻的对数时间搜索,显著降低查询延迟。相比暴力搜索,它在保持高召回率的同时,将性能提升数十倍,广泛应用于大规模RAG系统。
209 10
HNSW算法实战:用分层图索引替换k-NN暴力搜索
|
7月前
|
负载均衡 算法 关系型数据库
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
本文聚焦 MySQL 集群架构中的负载均衡算法,阐述其重要性。详细介绍轮询、加权轮询、最少连接、加权最少连接、随机、源地址哈希等常用算法,分析各自优缺点及适用场景。并提供 Java 语言代码实现示例,助力直观理解。文章结构清晰,语言通俗易懂,对理解和应用负载均衡算法具有实用价值和参考价值。
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
|
2月前
|
机器学习/深度学习 缓存 算法
微店关键词搜索接口核心突破:动态权重算法与语义引擎的实战落地
本文详解微店搜索接口从基础匹配到智能推荐的技术进阶路径,涵盖动态权重、语义理解与行为闭环三大创新,助力商家提升搜索转化率、商品曝光与用户留存,实现技术驱动的业绩增长。
|
4月前
|
机器学习/深度学习 算法 文件存储
神经架构搜索NAS详解:三种核心算法原理与Python实战代码
神经架构搜索(NAS)正被广泛应用于大模型及语言/视觉模型设计,如LangVision-LoRA-NAS、Jet-Nemotron等。本文回顾NAS核心技术,解析其自动化设计原理,探讨强化学习、进化算法与梯度方法的应用与差异,揭示NAS在大模型时代的潜力与挑战。
1095 6
神经架构搜索NAS详解:三种核心算法原理与Python实战代码
|
2月前
|
存储 人工智能 算法
从零掌握贪心算法Java版:LeetCode 10题实战解析(上)
在算法世界里,有一种思想如同生活中的"见好就收"——每次做出当前看来最优的选择,寄希望于通过局部最优达成全局最优。这种思想就是贪心算法,它以其简洁高效的特点,成为解决最优问题的利器。今天我们就来系统学习贪心算法的核心思想,并通过10道LeetCode经典题目实战演练,带你掌握这种"步步为营"的解题思维。
|
3月前
|
机器学习/深度学习 资源调度 算法
遗传算法模型深度解析与实战应用
摘要 遗传算法(GA)作为一种受生物进化启发的优化算法,在复杂问题求解中展现出独特优势。本文系统介绍了GA的核心理论、实现细节和应用经验。算法通过模拟自然选择机制,利用选择、交叉、变异三大操作在解空间中进行全局搜索。与梯度下降等传统方法相比,GA不依赖目标函数的连续性或可微性,特别适合处理离散优化、多目标优化等复杂问题。文中详细阐述了染色体编码、适应度函数设计、遗传操作实现等关键技术,并提供了Python代码实现示例。实践表明,GA的成功应用关键在于平衡探索与开发,通过精心调参维持种群多样性同时确保收敛效率
|
3月前
|
机器学习/深度学习 边缘计算 人工智能
粒子群算法模型深度解析与实战应用
蒋星熠Jaxonic是一位深耕智能优化算法领域多年的技术探索者,专注于粒子群优化(PSO)算法的研究与应用。他深入剖析了PSO的数学模型、核心公式及实现方法,并通过大量实践验证了其在神经网络优化、工程设计等复杂问题上的卓越性能。本文全面展示了PSO的理论基础、改进策略与前沿发展方向,为读者提供了一份详尽的技术指南。
粒子群算法模型深度解析与实战应用
|
10月前
|
人工智能 编解码 算法
DeepSeek加持的通义灵码2.0 AI程序员实战案例:助力嵌入式开发中的算法生成革新
本文介绍了通义灵码2.0 AI程序员在嵌入式开发中的实战应用。通过安装VS Code插件并登录阿里云账号,用户可切换至DeepSeek V3模型,利用其强大的代码生成能力。实战案例中,AI程序员根据自然语言描述快速生成了C语言的base64编解码算法,包括源代码、头文件、测试代码和CMake编译脚本。即使在编译错误和需求迭代的情况下,AI程序员也能迅速分析问题并修复代码,最终成功实现功能。作者认为,通义灵码2.0显著提升了开发效率,打破了编程语言限制,是AI编程从辅助工具向工程级协同开发转变的重要标志,值得开发者广泛使用。
8835 71
DeepSeek加持的通义灵码2.0 AI程序员实战案例:助力嵌入式开发中的算法生成革新
|
存储 缓存 算法
前端算法:优化与实战技巧的深度探索
【10月更文挑战第21天】前端算法:优化与实战技巧的深度探索
228 1
|
大数据 UED 开发者
实战演练:利用Python的Trie树优化搜索算法,性能飙升不是梦!
在数据密集型应用中,高效搜索算法至关重要。Trie树(前缀树/字典树)通过优化字符串处理和搜索效率成为理想选择。本文通过Python实战演示Trie树构建与应用,显著提升搜索性能。Trie树利用公共前缀减少查询时间,支持快速插入、删除和搜索。以下为简单示例代码,展示如何构建及使用Trie树进行搜索与前缀匹配,适用于自动补全、拼写检查等场景,助力提升应用性能与用户体验。
279 2

热门文章

最新文章