漫画:什么是服务熔断?

2023-10-31

点击上方“程序员小灰”,选择“置顶公众号”

有趣有内涵的文章第一时间送达!



















小灰的答题策略,是遇到难题不断思考、不断思考,一直到考试结束为止。可以用下面这张图流程图来表示:




大黄的答题策略,是遇到难题先尝试几次思考,如果尝试一定次数不成功,则果断放弃,继续回答别的题目。等别的题目回答完毕,再回过头来重新思考那道难题。可以用下面这张图流程图来表示:







什么是服务熔断?


熔断这一概念来源于电子工程中的断路器(Circuit Breaker)。在互联网系统中,当下游服务因访问压力过大而响应变慢或失败,上游服务为了保护系统整体的可用性,可以暂时切断对下游服务的调用。


这种牺牲局部,保全整体的措施就叫做熔断


如果不采取熔断措施,我们的系统会怎样呢?我们来看一个栗子。


当前系统中有A,B,C三个服务,服务A是上游,服务B是中游,服务C是下游。它们的调用链如下




一旦下游服务C因某些原因变得不可用,积压了大量请求,服务B的请求线程也随之阻塞。线程资源逐渐耗尽,使得服务B也变得不可用。紧接着,服务A也变为不可用,整个调用链路被拖垮。




像这种调用链路的连锁故障,叫做雪崩



正所谓刮骨疗毒,壮士断腕。在这种时候,就需要我们的熔断机制来挽救整个系统。熔断机制的大体流程和刚才所讲的考试策略如出一辙:





这里需要解释两点:


1.开启熔断

在固定时间窗口内,接口调用超时比率达到一个阈值,会开启熔断。进入熔断状态后,后续对该服务接口的调用不再经过网络,直接执行本地的默认方法,达到服务降级的效果。


2.熔断回复

熔断不可能是永久的。当经过了规定时间之后,服务将从熔断状态回复过来,再次接受调用方的远程调用。







服务熔断的实际应用



Spring Cloud Hystrix是基于Netflix的开源框架Hystrix实现,该框架实现了服务熔断线程隔离等一系列服务保护功能。


对于熔断机制的实现,Hystrix设计了三种状态:


1.熔断关闭状态(Closed)

服务没有故障时,熔断器所处的状态,对调用方的调用不做任何限制。


2.熔断开启状态(Open)

在固定时间窗口内(Hystrix默认是10秒),接口调用出错比率达到一个阈值(Hystrix默认为50%),会进入熔断开启状态。进入熔断状态后,后续对该服务接口的调用不再经过网络,直接执行本地的fallback方法


3.半熔断状态(Half-Open)

在进入熔断开启状态一段时间之后(Hystrix默认是5秒),熔断器会进入半熔断状态。所谓半熔断就是尝试恢复服务调用,允许有限的流量调用该服务,并监控调用成功率。如果成功率达到预期,则说明服务已恢复,进入熔断关闭状态;如果成功率仍旧很低,则重新进入熔断关闭状态。



三个状态的转化关系如下图:









—————END—————




喜欢本文的朋友们,欢迎长按下图关注订阅号程序员小灰,收看更多精彩内容


本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

漫画:什么是服务熔断? 的相关文章

  • Linux C利用Socket套接字进行服务器与多个客户端进行通讯

    http blog csdn net returningprodigal article details 51916754 服务器端 html view plain copy print include
  • C++/Python机器学习—感知机(二分类)

    一 Python import numpy as np import matplotlib pyplot as plt 定义预测函数 def predict x w b 计算特征向量和权重向量的点积 dot product np dot x
  • chrome浏览器 docker_使用docker安装elasticsearch

    1 使用docker安装 拉取镜像docker pull elasticsearch 6 5 4 创建容器docker create name elasticsearch net host e discovery type single n
  • 通过这些case,我把项目LCP时间减少了1.5s

    您好 如果喜欢我的文章 可以关注我的公众号 量子前端 将不定期关注推送前端好文 前言 最近在做公司几个项目性能优化 整理出一些比较有用且常见的case来分享一下 A项目优化 白屏相关 DNS预连接 资源预解析 对于公共域名g alicdn
  • Python 大数据分析教程_1_大数据分析概述

    本章内容 理解数据 认识数据分析 数据分析工具Python 集成开发环境和文本编辑器 使用Jupter Notebook 理解数据 需要分析的数据一般是结构化的 半结构化的 非结构化的数据集合 大部分数据集都能够被转化为更加适合分析和建模的
  • openwrt路由器samba拒绝访问

    openwrt路由器samba拒绝访问 第一步 第一步 检查软件包 进入路由器web后台页面 系统 软件包 按ctrl f键查找samba软件包安装情况 例如 我的系统就有 autosamba luci app samba luci i18
  • Postfix+Cyrus-IMAP + Cyrus-SASL + MySQL + IMP 配置指南

    CNGNU Postfix邮件系统系列指南之一 Postfix Cyrus IMAP Cyrus SASL MySQL IMP完全指南 作者 王兴宇
  • iphonex苹果手机Exchange邮箱设置同步的邮件天数

    苹果手机Exchange邮件设置 同步的邮件天数 步骤 1 找到手机 设置 2 找到 账户与密码 3 找到 Exchage 4 找到 要同步的邮件天数 5 选择要保留的天数
  • leetcode shell 4道题

    最近在学习shell 发现leetcode上shell的4道题还是比较不错的 整理了一下 193 Valid Phone Numbers 电话号码匹配 easy grep 0 9 0 9 0 9 0 9 0 9 0 9 0 9 0 9 0
  • IOU

    IOU 即交并比 应用 NMS 过滤重叠框 mAP import numpt as np def get IOU pred bbox gt bbox ixmin max pred bbox 0 gt bbox 0 iymin max pre
  • 【Java8日期】一文搞定Java8日期新特性

    目录标题 前言 Java8日期类型 简介 1 核心类 2 关键点 LocalDate 1 获取当前日期 年 月 日 2 获取月 周的第几天 3 随意创建日期 4 比较两个LocalDate是否相同 5 比较两个LocalDate的大小 6
  • Ant Design Pro入门介绍

    官方文档地址 https pro ant design zh CN 应用介绍 Ant Design Pro是一个企业级中后台前端 设计解决方案 基于React的中后台管理控制台的脚手架 能帮助我们快速的搭建企业级中后台管理系统 今天就为大家
  • python中pandas读写数据详解

    Pandas 库读取数据 Pandas 是一种开源数据分析工具 可以帮助我们更方便地处理和分析数据 Pandas 提供了许多函数来读取各种格式的数据 例如 CSV Excel SQL 等 读取 CSV 文件 CSV 文件是一种常用的数据格式
  • Win10 11 解决docker一直docker desktop starting和设置页面进不去问题

    PowerShell输入 注意一定是powershell输入命令 这个和cmd不一样 2 输入代码 cd C Program Files Docker Docker DockerCli exe SwitchDaemon 3 成功
  • 在WSL中安装zsh终端

    cmder中设置 新增task 名称为wsl bash 右下方的方框内填写 ConEmuBaseDirShort wsl PATH ConEmuBaseDirShort conemu cyg 64 exe wsl distro guid f
  • selenium之 定位以及切换frame(iframe)

    更多关于python selenium的文章 请关注我的专栏 Python Selenium自动化测试详解 总有人看不明白 以防万一 先在开头大写加粗说明一下 frameset不用切 frame需层层切 很多人在用selenium定位页面元
  • Android Studio引入jar包和so文件(armeabi和armeabi-v7a)

    一 引用jar文件 1 将jar文件复制 粘贴到app的libs目录中 2 右键点击jar文件 并点击弹出菜单中的 Add As Library 将jar文件作为类库添加到项目中 3 选择指定的类库 注 如果不执行2 3步 jar文件将不起
  • JVM虚拟机栈的栈帧结构中动态链接的理解

    深入理解Java虚拟机 书中原文写到 每个栈帧都包含一个指向运行时常量池中该栈帧所属方法的引用 持有这个引用是为了支持方法调用过程中的动态链接 Dynamic Linking 通过第六章的讲解 我们知道Class文件的常量池中存有大量的符号
  • HDU--3790:最短路径问题 (Dijkstra算法)

    1 题目源地址 http acm hdu edu cn showproblem php pid 3790 2 基本题意 找出最短路径 若有多条最短路径 输出那条花费最小的 注意过滤重边 3 源代码 HOJ 3790 最短路径问题 Dijks
  • <C++>学习:栈(Stack)操作

    前言 人生如逆旅 我亦是行人 容器适配器是一个封装了序列容器的类模板 它在一般序列容器的基础上提供了一些不同的功能 之所以称作适配器 是因为它可以通过适配容器现有的接口来提供不同的功能 stack lt T gt 容器适配器中的数据是以 L

随机推荐

  • 深入浅出MySQL索引(二)InnoDB存储引擎的索引

    深入浅出MySQL索引 一 常见的索引模型 深入浅出MySQL索引 二 InnoDB存储引擎的索引 深入浅出MySQL索引 二 InnoDB存储引擎的索引 文章目录 深入浅出MySQL索引 二 InnoDB存储引擎的索引 一 InnoDB的
  • Java面向对象编程

    用命令方式运行以下代码的运行结果是 public class f public static void main String args String foo1 args 1 String foo2 args 2 String foo3 a
  • TOOLS.INI: TOOLCHAIN NOT INSTALLED

    直接在tools ini中添加注册码 LIC0 注册码 成功破解但是还是不能编译
  • windows10开热点无法连接网络的原因

    首先 你得明白 windows10开热点 让手机连得底层原理是什么 没错 如果玩过虚拟机的同学应该很快就能反应过来 其实就是 仅主机模式 何为 仅主机模式 呢 见下图 也就是说 你的手机能否上网决定权在于 能上网的主机网卡 是否把这种能力
  • vscode SVN not found. Install it or configure it using the svn.path

    问题 解决方案 一般 svn 命令行工具 安装了 就不需要再settings json 中配置了 安装 svn 命令行工具 下面又安装教程 如果还不行的话 可能是安装路径问题 如下配置安装路径即可 vscode 中 settins json
  • pandas绘图方法

    一 最简单的方法 df get price 002340 XSHE start date 2017 1 1 end date 2017 10 11 frequency daily fields None skip paused False
  • 909422229_Jeesite 列表数据自定义排序规则

    技术交流群 958923746 有学习视频 文档等 1 列表排序 假排序哦 非数据库排序 page是查询到的列表数据 Collections sort page getList new Comparator
  • 【日志首次上报积分最多】

    题目描述 日志首次上报最多积分 日志采集是运维系统的的核心组件 日志是按行生成 每行记做一条 由采集系统分批上报 如果上报太频繁 会对服务端造成压力 如果上报太晚 会降低用户的体验 如果一次上报的条数太多 会导致超时失败 为此 项目组设计了
  • windows能访问外网但无法访问虚拟机

    最近一直遇到个头疼的问题 Windows本机上搭了几个Linux虚拟机 不知怎么的 使用Linux虚拟机两两互相访问是可以互相ping通的 但是用Windows主机去访问内部的虚拟机老是提示 无法访问目标主机 第一步 确定虚拟机和Windo
  • Android之RecyclerView线性列表、网格列表实现滑动到指定位置并置顶

    文章目录 前言 一 使用步骤 1 LinearLayoutManager 2 GridLayoutManager 3 LinearSmoothScroller 4 使用 总结 前言 在日常开发中 我们经常会遇到选择事物的需求 例如单选多选
  • Alibaba开源框架COLA的个人心得--COLA框架各层职责

    COLA框架各层职责 1 官网定义 1 适配层 Adapter Layer 负责对前端展示 web wireless wap 的路由和适配 对于传统B S系统而言 adapter就相当于MVC中的controller 2 应用层 Appli
  • 快速排序,快速选择排序,选择排序的区别

    选择排序是对整体序列进行排序 快速排序也是对整体序列进行排序 快速选择算法是快速在未排序的数组中寻找第k小 大的元素 快速选择算法和快速排序的思想是找基准点 在基准点左边的都比他小 然后在基准点右边的都比大这样 但是这两个算法的目的不同 所
  • 硬币系列二

    最近搞了一些稀奇硬币 老潘把他们都用手机拍了下来 但是由于手机镜头焦距所限 并不能让硬币充满整个画面 所以很自然的想法就是 把硬币从图片中裁剪出来 一个正常人的做法是 把需要拍摄特写的物品放在纯净颜色的背景上 这种做法其实也有利于后期的抠图
  • STM32--CAN ID过滤器分析

    1 前言 在CAN协议里 报文的标识符不代表节点的地址 而是跟报文的内容相关的 因此 发送者以广播的形式把报文发送给所有的接收者 节点在接收报文时 根据标识符 CAN ID 的值决定软件是否需要该报文 如果需要 就拷贝到SRAM里 如果不需
  • 配合插件flatten-maven-plugin及${revision}属性在maven多模块项目中可进行全局版本号管理

    父pom
  • 【原创】基于FPGA的数码管按键显示(two_key)

    文档说明 一 背景介绍 心理一直有个疙瘩 总感觉不把数码管玩的溜些 觉得少了些什么东西 念头不通畅 说什么也要拿下 于是 有了这篇文档的产生 二 项目需求 选用开发板上的2个按键 当s1按下后 key cnt计数加2 当s2按下后 key
  • 函数printf()的格式转换

    知识点自用 c语言程序设计p43
  • C# 简介(详细)

    C 是一个现代的 通用的 面向对象的编程语言 它是由微软 Microsoft 开发的 由 Ecma 和 ISO 核准认可的 C 是由 Anders Hejlsberg 和他的团队在 Net 框架开发期间开发的 C 是专为公共语言基础结构 C
  • Android Framework学习(七)之Thread类以及常用同步类

    前言 Thread类是Android为线程操作而做的一个封装 代码在Thread cpp中 其中还封装了一些与线程同步相关的类 本篇博客 我们一起学习Thread类以及常用同步类 Thread类 Thread类的构造函数中的有一个canCa
  • 漫画:什么是服务熔断?

    点击上方 程序员小灰 选择 置顶公众号 有趣有内涵的文章第一时间送达 小灰的答题策略 是遇到难题不断思考 不断思考 一直到考试结束为止 可以用下面这张图流程图来表示 大黄的答题策略 是遇到难题先尝试几次思考 如果尝试一定次数不成功 则果断放