Spring Cloud之LB-Ribbon调用流程和源码分析(二)

2023-11-08

接着上面的一篇关于Spring Cloud之Open Feign调用流程和源码分析,解析feign在rpc调用的时候lb的组成及底层工作流程。

 

关键组件介绍

  • ServerList:可以响应客户端的特定服务的服务器列表。
  • ServerListFilter:可以动态获得的具有所需特征的候选服务器列表的过滤器。
  • ServerListUpdater:用于执行动态服务器列表更新。
  • Rule:负载均衡策略,用于确定从服务器列表返回哪个服务器
  • Ping:客户端用于快速检查服务器当时是否处于活动状态。
  • LoadBalancer:负载均衡器,负责负载均衡调度的管理。

流程及源码分析 

1.是如何加载到spring中的呢?了解spring boot加载jar包原理的应该知道,spring boot通过spi机制加载我们需要扩展的类,即在spring.factories 配置j类的全限定名称的形式。对于不太了解springboot的spi机制的同学,可以查看我的这篇jdk、springboot、dubbospi机制对比。LoadBalancerAutoConfiguration加载LoadBalancerRetryProperties(负载均衡器的是否开启重试)和LoadBalancerClient。

 负载均衡器的是否开启重试配置类:

@ConfigurationProperties("spring.cloud.loadbalancer.retry")
public class LoadBalancerRetryProperties {
  //...
}

2.@LoadBalanced的RestTemplate Bean添加了一个LoadBalancerInterceptor拦截器,而这个拦截器的作用就是对请求的URI进行转换获取到具体应该请求哪个服务实例。通过LoadBalancerClient执行具体的请求发送,通过默认的方法(默认策略)选取服务器。

配置类配置loadBalancerInterceptor拦截器:

      LoadBalancerAutoConfiguration  
      @Bean
        @ConditionalOnMissingBean
        public RestTemplateCustomizer restTemplateCustomizer(final RetryLoadBalancerInterceptor loadBalancerInterceptor) {
            return (restTemplate) -> {
                List<ClientHttpRequestInterceptor> list = new ArrayList(restTemplate.getInterceptors());
                list.add(loadBalancerInterceptor);
                restTemplate.setInterceptors(list);
            };
        }
    }

 拦截器获取调用服务名称:

LoadBalancerInterceptor 
public ClientHttpResponse intercept(final HttpRequest request, final byte[] body, final ClientHttpRequestExecution execution) throws IOException {
        URI originalUri = request.getURI();
        String serviceName = originalUri.getHost();
        Assert.state(serviceName != null, "Request URI does not contain a valid hostname: " + originalUri);
        return (ClientHttpResponse)this.loadBalancer.execute(serviceName, this.requestFactory.createRequest(request, body, execution));
    }

 LoadBalancerClient配置的默认路由策略(轮询):

RibbonLoadBalancerClient   
protected Server getServer(ILoadBalancer loadBalancer) {
        return loadBalancer == null ? null : loadBalancer.chooseServer("default");
    }

3.从 RibbonLoadBalancerClient 代码可以看出,实际负载均衡的是通过 ILoadBalancer 来实现的,默认采用了ZoneAwareLoadBalancer来实现负载均衡器;

RibbonLoadBalancerClient    
public <T> T execute(String serviceId, LoadBalancerRequest<T> request) throws IOException {
        ILoadBalancer loadBalancer = this.getLoadBalancer(serviceId);
        Server server = this.getServer(loadBalancer);
        if (server == null) {
            throw new IllegalStateException("No instances available for " + serviceId);
        } else {
            RibbonLoadBalancerClient.RibbonServer ribbonServer = new RibbonLoadBalancerClient.RibbonServer(serviceId, server, this.isSecure(server, serviceId), this.serverIntrospector(serviceId).getMetadata(server));
            return this.execute(serviceId, ribbonServer, request);
        }
    }

                                                                                lb的类图 

  • NoOpLoadBalancer:啥都不做
  • BaseLoadBalancer:

        一个负载均衡器的基本实现,其中有一个任意列表,可以将服务器设置为服务器池。 

        可以设置一个ping来确定服务器的活力。

        在内部,该类维护一个“all”服务器列表,以及一个“up”服务器列表,并根据调用者的要求使用它们。

  • DynamicServerListLoadBalancer:

        通过动态的获取服务器的候选列表的负载平衡器。

        可以通过筛选标准来传递服务器列表,以过滤不符合所需条件的服务器。

  •  ZoneAwareLoadBalancer

        用于测量区域条件的关键指标是平均活动请求,它根据每个rest客户机和每个区域聚合。这是区域内未完成的请求总数除以可用目标实例的数量(不包括断路器跳闸实例)。当在坏区上缓慢发生超时时,此度量非常有效

        该负载均衡器将计算并检查所有可用区域的区域状态。如果任何区域的平均活动请求已达到配置的阈值,则该区域将从活动服务器列表中删除。如果超过一个区域达到阈值,则将删除每个服务器上活动请求最多的区域。一旦去掉最坏的区域,将在其余区域中选择一个区域,其概率与其实例数成正比。服务器将使用给定的规则从所选区域返回。对于每个请求,将重复上述步骤。也就是说,每个与区域相关的负载平衡决策都是实时做出的,最新的统计数据可以帮助进行选择

RibbonClient默认的连接超时、读取内容超时是1s:

public class RibbonClientConfiguration {
    public static final int DEFAULT_CONNECT_TIMEOUT = 1000;
    public static final int DEFAULT_READ_TIMEOUT = 1000;
    @RibbonClientName
    private String name = "client";
    @Autowired
    private PropertiesFactory propertiesFactory;
}
  •  4.IClientConfig 用于对客户端或者负载均衡的配置,它的默认实现类为 DefaultClientConfigImpl;
  •     RibbonClientConfiguration
        @Bean
        @ConditionalOnMissingBean
        public ILoadBalancer ribbonLoadBalancer(IClientConfig config, ServerList<Server> serverList, ServerListFilter<Server> serverListFilter, IRule rule, IPing ping, ServerListUpdater serverListUpdater) {
            return (ILoadBalancer)(this.propertiesFactory.isSet(ILoadBalancer.class, this.name) ? (ILoadBalancer)this.propertiesFactory.get(ILoadBalancer.class, config, this.name) : new ZoneAwareLoadBalancer(config, rule, ping, serverList, serverListFilter, serverListUpdater));
        }

    其中new ZoneAwareLoadBalancer(config, rule, ping, serverList, serverListFilter, serverListUpdater) 代码包含了lb使用到的所有组件,下面会一一说明。

    public class DefaultClientConfigImpl implements IClientConfig {
        public static final Boolean DEFAULT_PRIORITIZE_VIP_ADDRESS_BASED_SERVERS;
        public static final String DEFAULT_NFLOADBALANCER_PING_CLASSNAME = "com.netflix.loadbalancer.DummyPing";
        public static final String DEFAULT_NFLOADBALANCER_RULE_CLASSNAME = "com.netflix.loadbalancer.AvailabilityFilteringRule";
        public static final String DEFAULT_NFLOADBALANCER_CLASSNAME = "com.netflix.loadbalancer.ZoneAwareLoadBalancer";
        public static final boolean DEFAULT_USEIPADDRESS_FOR_SERVER;
        public static final String DEFAULT_CLIENT_CLASSNAME = "com.netflix.niws.client.http.RestClient";
        public static final String DEFAULT_VIPADDRESS_RESOLVER_CLASSNAME = "com.netflix.client.SimpleVipAddressResolver";
        public static final String DEFAULT_PRIME_CONNECTIONS_URI = "/";
    //...
    }

    5.Rule分类:

  • BestAvailableRule:选择具有最低并发请求的服务器。
  • ClientConfigEnabledRoundRobinRule:轮询。
  • RandomRule:随机选择一个服务器。
  • RoundRobinRule:轮询选择服务器。
  • RetryRule:具备重试机制的轮询。
  • WeightedResponseTimeRule:根据使用平均响应时间去分配一个weight(权重) ,weight越低,被选择的可能性就越低。
  • ZoneAvoidanceRule:根据区域和可用性筛选,再轮询选择服务器

                                                                                rule的类图 

 6.ping, serverList, serverListFilter, serverListUpdater组件介绍;

定义如何 “ping” 服务器以检查其是否存活;

                                                                                 ping的类图

ServerList

定义获取所有的服务实例清单。

  • DomainExtractingServerList:代理类,根据传入的ServerList的值,实现具体的逻辑。
  • ConfigurationBasedServerList:从配置文件中加载服务器列表。
  • DiscoveryEnabledNIWSServerList:从Eureka注册中心中获取服务器列表。
  • StaticServerList:通过静态配置来维护服务器列表。

                                                                                         serverList的类图

ServerListFilter

允许根据过滤配置动态获得的具有所需特性的候选服务器列表。

  • DefaultNIWSServerListFilter:完全继承自ZoneAffinityServerListFilter。
  • ZonePreferenceServerListFilter:EnableZoneAffinity 或 EnableZoneExclusivity 开启状态使用,默认关闭。处理基于区域感知的过滤服务器,过滤掉不和客户端在相同zone的服务,若不存在相同zone,则不进行过滤。
  • ServerListSubsetFilter:服务器列表筛选器,它将负载平衡器使用的服务器数量限制为所有服务器的子集。如果服务器机群很大(例如数百个),并且不需要使用每一个机群并将连接保存在http客户机的连接池中,那么这是非常有用的。它还可以通过比较总的网络故障和并发连接来驱逐相对不健康的服务器。

                                                                                    ServerListFilter类图

ServerListUpdater

用于执行动态服务器列表更新。

                                                                                 serverListUpdater类图

  • PollingServerListUpdater:默认的实现策略,会启动一个定时线程池,定时执行更新策略。
  • EurekaNotificationServerListUpdater:利用Eureka的事件监听器来驱动服务列表的更新操作。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Spring Cloud之LB-Ribbon调用流程和源码分析(二) 的相关文章

随机推荐

  • 企业级日常巡检脚本的编写

    1 系统信息 1 1 操作系统类型 查看操作系统类型命令为 uname 例 root host 134 uname Linux 定义变量 os type uname 1 2 操作系统版本号 查看操作系统版本号命令为 cat etc redh
  • 【论文阅读】Learning Spatio-Temporal Representation with Pseudo-3D Residual Networks

    论文阅读 Learning Spatio Temporal Representation with Pseudo 3D Residual Networks 虽然这是一篇17年ICCV的论文 但是这篇论文里没有使用kinetics数据集 可能
  • 在UFT中使用描述性编程

    在 UFT 中使用描述性编程是一个提高UFT脚本利用率的很好的方式 通常UFT是通过对象库来识别不同的对象 而描述性编程是UFT另外一种能够识别对象的途径 它不依赖于对象库 通过增加一些对象的描述来识别对象的 说明 本例子是以Flight飞
  • 一个问答机器人模型该如何构建

    构建一个问答机器人模型 通常需要以下步骤 准备数据 需要大量的问题和答案对 以供模型学习 预处理数据 可能需要对数据进行分词 词性标注 去停用词等操作 以便输入模型进行训练 选择模型类型 常用的问答机器人模型类型有基于知识库的模型 基于生成
  • 网工学习笔记

    1 什么是IP地址 IP地址 Internet Protocol Address 互联网国际地址 是一种在Internet上的给主机编址的方式 它主要是为互联网上的每一个网络和每一台主机分配一个逻辑地址 以此来屏蔽物理地址的差异 IP地址就
  • APP脱壳之MDEX的使用步骤

    并不是每一个APP都会加壳 根据以往的经验 一般情况下加壳的有两种情况 第一种是像360公司 腾讯 百度这些公司 他们有自己的加壳技术 就会给自己需要加壳的产品都会加壳 第二种是普通APP 包括但不限于一些色情类的 或者其他用户体量不大的A
  • Cuda 学习教程六:执行模型

    Cuda 学习教程六 执行模型 今天看到一篇讲解CUDA模型的文章 很不错 转载记录一下 CUDA编程4 执行模型 上
  • 雨滴桌面插件大全_电脑技巧之桌面美化,字体美化,透明效果全都有

    Windows技巧 桌面美化篇 电脑的日常使用中 相信百分之九十九的玩家的电脑显示得最多的不是游戏也不是办公软件 而是桌面 一个干净整洁甚至是漂亮的桌面能够大幅度提高电脑日常使用的幸福感 今天我就来分享一下电脑的桌面美化软件 1 字体美化
  • 解决缺少api-ms-win-crt-runtime-

    答主在安装MongoDB的时候 遇到了api ms win crt runtime 1 1 0 dll的问题 历经两天时间终于解决 下面是我的解决历程 首先是这个图 这个是因为没有微软的visual2015c 运行库环境 需要安装 地址 h
  • 刷脸识别改变支付零售日常生活

    据对相貌特征信息的生物辨认技能促就了刷脸付的诞生 并且付宝官方力推刷脸付旨在替代了扫码付出 当然新型的刷脸付款方式关于很多人仍是比较忧虑的 觉得会存在必定安全隐患 那么刷脸付安全吗 有保证吗 那么下面就来解答大家所忧虑的刷脸付安全性问题 早
  • webpack打包入口指定某文件夹内所有js作为入口文件

    webpack config js webpack config js const path require path const glob require glob module exports 指定 packs 文件夹下的 js 文件作
  • Navicat连接MySQL时弹出:1045:Access denied for user ‘root’@’localhost’

    错误原因 当登录MySQL数据库出现 Error 1045 错误时 表明你输入的用户名或密码错误被拒绝访问了 也可能是你的账号不允许从远程登录 只能在localhost本地登录数据库 解决办法如下 用管理员权限打开cmd 并且cd进入mys
  • 点云读取加速c++ ASCii 模式ply 或者txt

    相较于Qt Qtextstream的性能提升十倍 本文点云格式特殊 有需要自行修改即可 QFile dataFile fileName bool ret dataFile open QIODevice ReadOnly QIODevice
  • 浅谈JS的微任务和宏任务(附加面试题)

    Event Loop 因为JS是单线程 就是说 同一个时间只能做一件事 为了协调事件 用户交互 脚本 UI 渲染和网络处理等行为 防止主线程的不阻塞 Event Loop 的方案应用而生 掌握知识点 JS分为同步任务和异步任务 同步任务都在
  • (C语言)指针初识(1)——指针概念及指针类型

    指针 看似是一个令人头疼的问题 静下心来慢慢学习 指针这个主题 分成了几个的板块 比较多 耐心看完 一定会有收获啦 慢慢来 总是需要一个循序渐进的过程 目录 一 什么是指针 二 指针和指针类型 指针类型的意义 结论1 结论2 一 什么是指针
  • vue 和 react的对比

    vue 比react的优缺点 对比1 github 全球开发者星星点赞数量 此数据结果摘取于 2021年3月份 结论 vue 胜出 尤雨溪一个人撑起一个生态 战胜高手林立的巨头公司facebook 相当的传奇 对比2 React VS Vu
  • easyrecovery2023永久免费版激活密钥,手把手教您用EasyRecovery快速恢复数据

    Ontrack EasyRecovery Crack Professional是一个全面的备份和恢复实用程序 可以从多个数据丢失事件中恢复文件 例如常见的意外删除 更严重的 有时是病毒引起的 分区或驱动器格式化 甚至硬盘严重损坏后的数据丢失
  • 阿里Java代码规范

    代码规范 一 编程规约 一 命名风格 二 常量定义 三 代码格式 四 OOP 规约 五 集合处理 六 并发处理 七 控制语句 八 注释规约 九 其它 二 异常日志 一 异常处理 二 日志规约 三 单元测试 四 安全规约 五 MySQL 数据
  • YAML用法详解

    1 简介 YAML YAML Ain t Markup Language j m l 设计目标是方便人类读写 它实质上是一种通用的数据串行化格式 远比 JSON 格式方便 1 1 它的基本语法规则如下 大小写敏感 使用缩进表示层级关系 缩进
  • Spring Cloud之LB-Ribbon调用流程和源码分析(二)

    接着上面的一篇关于Spring Cloud之Open Feign调用流程和源码分析 解析feign在rpc调用的时候lb的组成及底层工作流程 关键组件介绍 ServerList 可以响应客户端的特定服务的服务器列表 ServerListFi