RateLimiter 的底层实现是啥?

简介: 前言本文不是一个RateLimiter的详细分析,仅仅是概要分析。令牌桶算法一说到RateLimiter,必然要是说的令牌桶,它的大致逻辑如下

image.png

按图实现

令牌桶的图,网上到处可见,按图实现也非常简单,无非是定时添加令牌桶,并提供一个获取令牌的函数,博主实现了一遍代码如下:

import java.util.concurrent.*;
public class MyRateLimiter {
    //令牌桶
    BlockingQueue<Integer>TOKEN_BUCKET=new LinkedBlockingDeque<>(5);
    public static void main(String[] args) {
        MyRateLimiter myRateLimiter=new MyRateLimiter();
        myRateLimiter.addTokenFixedRate();
       for(int i=0;i<10;i++){
                myRateLimiter.acqurie();
                System.out.println("第几次执行i:" + i + ",执行时间为:" + System.currentTimeMillis());
        }
    }
   /**
    * 定时添加令牌
    */
    public void addTokenFixedRate(){
        ScheduledExecutorService scheduledExecutorService= Executors.newSingleThreadScheduledExecutor();
        scheduledExecutorService.scheduleAtFixedRate(()->{
                    boolean suc=TOKEN_BUCKET.offer(1);
                    if(!suc){
                        System.out.println("令牌桶满了丢弃");
                    }
        },0,200,TimeUnit.MILLISECONDS);
    }
    public void acqurie(){
        while (TOKEN_BUCKET.poll()==null){};
    }
}

测试结果如下,基本满足要求

image.png

RateLimiter概要实现

我一开始是按照自己实现的逻辑,去查看Guava的RateLimiter的源码的,结果发现RateLimiter根本没有集合充当桶,核心是记录了下一令牌产生的时间与现存令牌数,并动态更新它们。

概要逻辑图如下:

image.png

按照这个图看核心代码就比较容易了,摘录核心代码如下:

@CanIgnoreReturnValue
public double acquire(int permits) {
  long microsToWait = reserve(permits);
  stopwatch.sleepMicrosUninterruptibly(microsToWait);
  return 1.0 * microsToWait / SECONDS.toMicros(1L);
}
//Reserve 一路向下能查到如下代码  reserveEarliestAvailable
final long reserveEarliestAvailable(int requiredPermits, long nowMicros) {
    resync(nowMicros);
    long returnValue = nextFreeTicketMicros;
    // 现存令牌可以提供的令牌数
    double storedPermitsToSpend = min(requiredPermits, this.storedPermits);
    //需要刷新的令牌数
    double freshPermits = requiredPermits - storedPermitsToSpend;
    //等待时间=需要刷新的令牌数*固定间隔+存储许可等待时间
    long waitMicros =
        storedPermitsToWaitTime(this.storedPermits, storedPermitsToSpend)
            + (long) (freshPermits * stableIntervalMicros);
    //下次令牌生产时间=本次令牌生产时间+等待时间
    this.nextFreeTicketMicros = LongMath.saturatedAdd(nextFreeTicketMicros, waitMicros);
    this.storedPermits -= storedPermitsToSpend;
    return returnValue;
}

总结:RateLimiter根本没有集合充当桶,核心是记录了下一令牌产生的时间与现存令牌数,并动态更新它们。


目录
相关文章
|
存储 弹性计算 JavaScript
阿里云优惠价格最低的2核2G配置云服务器可以用来做什么?
阿里云服务器租用价格是根据配置大小决定的,2核2G配置是入门级云服务器,当然还有1核1G、1核2G等更低配置,只是这种配置现在已经很少有人选择了,阿里云的各个活动中推出的最低配置也是2核2G起,其中2核指2个CPU核,2G指的是2G运行内存,本文主要介绍一下目前阿里云2核2G配置云服务器的最新实例清单及收费标准和主要适用场景,以供大家了解2核2G配置云服务器可以用来做什么。
2929 0
阿里云优惠价格最低的2核2G配置云服务器可以用来做什么?
|
2月前
|
数据采集 自然语言处理 数据可视化
Python爬取B站视频评论区情感分析:从数据采集到价值挖掘
B站作为年轻人聚集地,评论蕴含丰富情感与趋势。本文详解如何用Python爬取评论,结合SnowNLP与jieba进行中文情感分析,并通过可视化挖掘用户情绪、消费意愿与内容反馈,助力精准运营与决策。
560 0
|
1月前
|
敏捷开发 人工智能 数据可视化
让AI替你写用例!Dify+RAG工作流,一键生成覆盖率达90%的测试方案
本文介绍如何利用Dify.ai与RAG技术构建智能测试用例生成工作流,通过接入需求文档、API接口等知识库,实现高覆盖率(超90%)的自动化用例生成,显著提升测试效率与质量,解放测试人力,助力敏捷开发。
|
9月前
|
人工智能 安全 UED
【Gemini怎么使用】:Gemini 2.5 PRO flash 国内使用教程来了
超新星——Gemini 2.0!这不仅仅是一次简单的迭代更新,而是一场彻底的、颠覆性的技术革命!
2400 1
解决VSCode中Debug和运行路径不一致的
在VSCode调试时,如果程序运行路径不正确,可通过配置`launch.json`文件的`CWD`参数来解决。在`launch.json`中添加或修改`configurations`,例如设置`&quot;cwd&quot;: &quot;${fileDirname}&quot;`,确保调试和运行时路径一致。这样可以避免因路径问题影响调试。记得`&quot;name&quot;`、`&quot;type&quot;`、`&quot;request&quot;`等其他关键参数也要正确配置。我是木头左,希望对你有所帮助!
解决VSCode中Debug和运行路径不一致的
|
XML Dubbo Java
SpringBoot整合Dubbo的第一种方式——application.properties + @DubboService + @DubboReference
SpringBoot整合Dubbo的第一种方式——application.properties + @DubboService + @DubboReference
1546 0
SpringBoot整合Dubbo的第一种方式——application.properties + @DubboService + @DubboReference
|
NoSQL 算法 Java
面试官:说一下红锁RedLock的实现原理?
面试官:说一下红锁RedLock的实现原理?
483 0
|
消息中间件 SQL 关系型数据库
设置 Flink 的定时任务来实现定时触发写入 MySQL 的逻辑
设置 Flink 的定时任务来实现定时触发写入 MySQL 的逻辑
1741 1
|
存储 算法 Java
超详细的Guava RateLimiter限流原理解析
限流是保护高并发系统的三把利器之一,另外两个是缓存和降级。限流在很多场景中用来限制并发和请求量,比如说秒杀抢购,保护自身系统和下游系统不被巨型流量冲垮等。