restTemplate loadbalance 负载均衡使用demo 案例 原理以及全网最细源码解析

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Tair(兼容Redis),内存型 2GB
传统型负载均衡 CLB,每月750个小时 15LCU
简介: restTemplate loadbalance 负载均衡使用demo 案例 原理以及全网最细源码解析

restTemplate 是spring 提供的http请求工具,类似于httpclient,

默认情况下与其他的http 工具类没有区别

但是当添加了@Loadbalance 注解之后,则具备了负载均衡功能,可以通过服务名找到对应的ip:port进行访问

闲话少说,我们直接上demo

注册templete loadbalance bean

如果引入了spring cloud 默认会注册 loadbalance resttemplate

@Bean
  @LoadBalanced
  public RestTemplate restTemplate(){
    return new RestTemplate();
  }

使用方式 post 使用demo案例

我这里是用的spring cloud nacos ,针对工作流回调函数传入服务名进行负载均衡调用

@Autowired
    private  RestTemplate restTemplate;
    /***
     * 
     * @param serverName 服务名
     * @param event 回调事件
     * @param vars 回调参数j'son
     * @return R<String> 返回结果
     * 
     */
    @Override
    public R<String> call(String serverName,String event, String vars) {
        log.info("serverName:{},event:{},vars:{}",serverName,event,vars);
        String url = "http://"+serverName+"/workflow/callback/event";
        HttpHeaders httpHeaders = new HttpHeaders();
        httpHeaders.add(SecurityConstants.FROM, SecurityConstants.FROM_IN);
        HttpEntity<Void> httpEntity = new HttpEntity<>(null, httpHeaders);
        MultiValueMap<String, String> requestMap = new LinkedMultiValueMap<>();
        requestMap.add("event", event);
        requestMap.add("dataMapString", vars);
        ResponseEntity<R> r =  restTemplate.exchange(url, HttpMethod.POST,httpEntity,R.class,requestMap);
        return R.ok();
    }

接收端

/**
     * 工作流回调接口
     *
     * @param event         事件名称
     * @param dataMapString 传递参数
     *                      dataMapString 参数如下:
     *                      flag :审批结果 "审批,驳回,终止"
     *                      username: 该流程提交者用户名
     *                      busi_id: startSubmit 返回的流程业务id,与业务挂钩的主键
     *                      nodeId: 节点Id
     *                      assignee: 分配的审批人
     *                      auditer: 真正完成审批人
     *                      comment: 审批意见
     */
    @Inner
    @RequestMapping("/event")
    @ApiOperation(value = "工作流各种回调事件接口", tags = "工作流各种回调事件接口")
    public R callBack(String event,String dataMapString) {
        System.out.println("event:" + event + ",dataMapString:" + dataMapString);
        //流程相关参数
        Map<String, String> params = JSON.parseObject(dataMapString, new TypeReference<Map<String, String>>() {
        });
        //流程节点分到了具体审批人后回调事件
        if (WorkflowCallBackEvent.EVENT_ASSIGNEE.equals(event)) {
            return R.ok();
        }else{
            return R.failed();
        }
     }

redistemplete 执行loadbanlace 运行流程与源码分析

为了大家方便理解,我画了一个简单的运行泳道图,主要分为两个部分,第一是启动部分,如下图:f9747bad90b740b4ba1b1ac7324eb7d3.png

启动部分源码分析

整体流程描述


1. 通过LoadBalancerAutoConfiguration 加载所有带有@LoadBalanced 注解的restTemplate

2. 初始化 执行 loadBalancedRestTemplateInitializerDeprecated 方法内部遍历执行 customizer.customize(restTemplate)

3. customizer.customize(restTemplate) 其实就是执行 之前注入的bean RestTemplateCustomizer,然后执行restTemplate.setInterceptors(list)



初始化完毕

详细步骤源码分析

1. 通过LoadBalancerAutoConfiguration 加载所有带有@LoadBalanced 注解的restTemplate

重点,为什么是加载了有@LoadBalanced 注解的restTemplate 而不是所有的restTemplate ,因为@LoadBalanced 内有一个@Qualifier 元注解

因此有@LoadBalanced 注解的restTemplate 就绑成了一个整体注入到了spring 中管理


09382e67e86944339e38e8dbb108507f.png

3b3547906dc74b338a9777760dd009be.png

2. 初始化 执行 loadBalancedRestTemplateInitializerDeprecated 方法内部遍历执行 customizer.customize(restTemplate)


9a5609d6969045eaa1cab63f22faeb6e.png

3. customizer.customize(restTemplate) 其实就是执行 之前注入的bean RestTemplateCustomizer,然后执行restTemplate.setInterceptors(list);

811a692b4b494c8bb030d8f045fbce6f.png

setInterceptors(list) 其实就是注入了RetryLoadBalancerInterceptor ,现在完成后也就是将含有loadbalance 注解的resttemplate 注入了interceptor

redistemplete 执行exchange 负载均衡源码分析(参照上面流程图)

整体流程描述

1. redistemplete 执行 exchange,然后内部 exchange->execute->doExecute

2. 然后 createRequest 然后通过 getRequestFactory 创建request

3. getRequestFactory 会根据是否内部注册了拦截器来返回不同的factory, 有拦截会返回InterceptingClientHttpRequestFactory ,没有会返回SimpleClientHttpRequestFactory

4. InterceptingClientHttpRequestFactory 会创建返回InterceptingClientHttpRequest,SimpleClientHttpRequestFactory 会创建返回SimpleBufferingAsyncClientHttpRequest

5. SimpleBufferingAsyncClientHttpRequest 会正常和httpclient 一样执行execute,暂不多说,主要来说InterceptingClientHttpRequest ,这个是负责负载均衡的

6. InterceptingClientHttpRequest 执行execute ,内部会先执行拦截器也就是之前启动注入的RetryLoadBalancerInterceptor

7. RetryLoadBalancerInterceptor 内部会执行 RibbonLoadBalancerClient 的choose 方法用NamedContextFactory 将服务名从注册中心获取实例转为ip:port 的ServiceInstance

8. 然后 RetryLoadBalancerInterceptor 会拿着得到的ServiceInstance 正常执行http请求得到 ClientHttpResponse

9. 返回response 全部流程结束

详细步骤源码分析

1. redistemplete 执行 exchange,然后内部 exchange->execute->doExecute


927f6929b7404f7e91548d99e6f91a3d.png


d0cc92b3ebf3473c93a2d579efaba42b.png

2. 然后 createRequest 然后通过 getRequestFactory 创建request


4825b8d973fc49599b82a7b445a9a880.png


68fc21b2c791448b9d9d30e5d577536b.png

3. getRequestFactory 会根据是否内部注册了拦截器来返回不同的factory, 有拦截会返回InterceptingClientHttpRequestFactory ,没有会返回SimpleClientHttpRequestFactory

510f40c28fa04b39a35db78612da0a68.png


9ae0b80c408b4f0cb95c5a4305fc9676.png

4. InterceptingClientHttpRequestFactory 会创建返回InterceptingClientHttpRequest,SimpleClientHttpRequestFactory 会创建返回SimpleBufferingAsyncClientHttpRequest

2ad10ae012e8456eb6b317d312afe68b.png


bd21ebda0041427b984d7cb5d5e6a28b.png

5. SimpleBufferingAsyncClientHttpRequest 会正常和httpclient 一样执行execute,暂不多说,主要来说InterceptingClientHttpRequest ,这个是负责负载均衡的

b4cda9249e4440d09c2a03a5d6042fb4.png

f81b78334ded45c4a4ab99fd0baeb66b.png

6. InterceptingClientHttpRequest 执行execute ,内部会先执行拦截器也就是之前启动注入的RetryLoadBalancerInterceptor

34491e0e779c46f781d4dd32edf0418f.png

7. RetryLoadBalancerInterceptor 内部会执行 RibbonLoadBalancerClient 的choose 方法用 NamedContextFactory 将服务名从注册中心获取实例转为ip:port 的ServiceInstance

47b351fb1c694c34b4b23076c43d5a8a.png

61ca379889a344b1800bb54b40155912.png


4a30fef79eb04cbfb8e2c1ef69c9f563.png

8. 然后 RetryLoadBalancerInterceptor 会拿着得到的ServiceInstance 正常执行http请求得到 ClientHttpResponse

2f6b43374d0c4e9b94b097ce8f5b176a.png

9. 返回response 全部流程结束

注意点:如果resttemplate 加了@loadbalance 注解,那么就不可以在用ip:port 形式的url请求了,只能用servername 形式,不然会报错


相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
27天前
|
缓存 Java 程序员
Map - LinkedHashSet&Map源码解析
Map - LinkedHashSet&Map源码解析
60 0
|
8天前
|
负载均衡 算法 应用服务中间件
5大负载均衡算法及原理,图解易懂!
本文详细介绍负载均衡的5大核心算法:轮询、加权轮询、随机、最少连接和源地址散列,帮助你深入理解分布式架构中的关键技术。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
5大负载均衡算法及原理,图解易懂!
|
7天前
|
消息中间件 缓存 安全
Future与FutureTask源码解析,接口阻塞问题及解决方案
【11月更文挑战第5天】在Java开发中,多线程编程是提高系统并发性能和资源利用率的重要手段。然而,多线程编程也带来了诸如线程安全、死锁、接口阻塞等一系列复杂问题。本文将深度剖析多线程优化技巧、Future与FutureTask的源码、接口阻塞问题及解决方案,并通过具体业务场景和Java代码示例进行实战演示。
26 3
|
24天前
|
存储
让星星⭐月亮告诉你,HashMap的put方法源码解析及其中两种会触发扩容的场景(足够详尽,有问题欢迎指正~)
`HashMap`的`put`方法通过调用`putVal`实现,主要涉及两个场景下的扩容操作:1. 初始化时,链表数组的初始容量设为16,阈值设为12;2. 当存储的元素个数超过阈值时,链表数组的容量和阈值均翻倍。`putVal`方法处理键值对的插入,包括链表和红黑树的转换,确保高效的数据存取。
50 5
|
26天前
|
Java Spring
Spring底层架构源码解析(三)
Spring底层架构源码解析(三)
|
26天前
|
XML Java 数据格式
Spring底层架构源码解析(二)
Spring底层架构源码解析(二)
|
27天前
|
算法 Java 程序员
Map - TreeSet & TreeMap 源码解析
Map - TreeSet & TreeMap 源码解析
31 0
|
5月前
|
缓存 负载均衡 算法
解读 Nginx:构建高效反向代理和负载均衡的秘密
解读 Nginx:构建高效反向代理和负载均衡的秘密
116 2
|
4月前
|
负载均衡 算法 应用服务中间件
nginx自定义负载均衡及根据cpu运行自定义负载均衡
nginx自定义负载均衡及根据cpu运行自定义负载均衡
52 1
|
4月前
|
运维 负载均衡 算法
SLB与NGINX的异同是什么
SLB与NGINX的异同是什么
396 2

推荐镜像

更多