微服务14:微服务治理之重试

服务,治理,重试 · 浏览次数 : 1744

小编点评

**微服务系列微服务1:微服务及其演进史** **什么是微服务?** 微服务是一种架构风格,将应用程序分解成多个独立的小服务,每个服务负责特定的功能。这些服务相互通信,但每个服务都独立部署和运行。 **微服务的演进史?** * **早期阶段:**微服务架构的萌芽阶段,通常是围绕特定技术或领域构建的。 * **成熟阶段:**微服务架构的流行阶段,是主流的架构模式。 * **近年来:**随着技术的进步,微服务架构越来越能应对复杂的互联网场景。 **微服务带来的好处?** * **可扩展性:**微服务架构可以轻松扩展以满足需求的增长。 * **容错性:**微服务架构可以更好地处理失败并提供恢复机制。 * **可维护性:**微服务架构可以更易于维护和测试。 **微服务的三种拆分策略?** * **单实例拆分:**创建一个独立的实例来处理请求。 * **分布式拆分:**创建一个分布式系统,将请求分配到多个实例上处理。 * **网关拆分:**创建一个网关,将请求转发到多个实例上处理。 **微服务注册与发现?** * **服务注册:**服务可以注册自己到一个注册中心,注册服务的运行状态和地址。 * **服务发现:**服务可以通过注册中心发现其他服务的运行状态和地址。 **微服务通信之网关?** * **通信之网关:**是一个中央化注册中心,提供服务注册、发现和通信功能。 * **通信之RPC:**是一种更低级的通信协议,它使用 RPC 协议进行通信。 **微服务实践篇(附源码)** * **示例代码:**附录中提供一些微服务实践的代码示例。 **其他相关内容** * **系统服务熔断、限流:**当系统出现故障时,熔断机制会自动恢复服务。限流机制会限制请求数量,避免服务器资源满载。 * **异常驱逐:**异常驱逐机制会跟踪异常并自动处理它们。 * **熔断限流:**熔断限流机制会设置请求延迟时间,确保请求得到响应后才继续处理。

正文

★微服务系列

微服务1:微服务及其演进史
微服务2:微服务全景架构
微服务3:微服务拆分策略
微服务4:服务注册与发现
微服务5:服务注册与发现(实践篇)
微服务6:通信之网关
微服务7:通信之RPC
微服务8:通信之RPC实践篇(附源码)
微服务9:服务治理来保证高可用
微服务10:系统服务熔断、限流
微服务11:熔断、降级的Hystrix实现(附源码)
微服务12:流量策略
微服务13:云基础场景下流量策略实现原理

1 背景

在复杂的互联网场景中,不可避免的会出现请求失败的情况。
从程序的的响应结果来看,一般是Response返回5xx状态的错误;从用户的角度去看,一般是请求结果不符合预期,即操作失败(如转账失败、下单失败、信息获取不到等)。
偶发的不可避免的5xx请求错误,产生的原因有很多种,比如:

  • 网络延迟或者抖动
  • 服务器资源不足(CPU、内存走高、连接池满)
  • 服务器故障
  • 符合某些特定条件下的服务程序bug(大都非必现)
    image

2 系统稳定性等级划分

大部分服务容忍低频、偶发的5xx错误,并使用可用性级别来衡量系统的健壮性,级别系数越高,健壮性越好,如下:

等级描述 故障时长(年) 可用行等级
基本可用性 87.6h 99%
较高可用 8.8h 99.9%
非常高的可用性(大部分故障可自动恢复) 52m 99.99%
极高可用性 5m 99.999%

对于强系统可靠性、强结果预期性 要求的系统,如转账、下单、付款,即使微小的可用性降级也是不可接受,用户强烈需要接收到正确的结果。
可以想想你付款的时候发现付款失败有多么惊慌,订外卖的时候获取信息失败有多么沮丧,这些都是用户痛点。

3 异常的治理手段

3.1 采用异常重试实现故障恢复

通过上面的故障原因分析我们知道,排除了必现的程序逻辑错误,大部分环境导致的错误是可以通过重试进行恢复的。
治理的手段主要是采用 异常重试 来实现的,通过重试负载到健康实例上(实例越多重试成功率越高),降低用户感知到的故障频率。
image

执行过程说明

  • 这边以示例服务 Svc-A 向 Svc-B 发起访问为例子。
  • 第1次执行失败之后,根据策略,间隔25ms之后发起第2次请求。
  • 会看到有两条日志,日志的trace_id 一致,说明他是同一个调用过程(1个调用过程,包含2次请求,首发1次与重试1次)
  • 请求方为同一个实例 Svc-A-Instance1,说明请求发起方一致。
  • 被请求方发生了变动,说明调度到新的实例(Svc-B-Instance1 到 Svc-B-Instance2)。
  • 返回正常的 200 。

因为我们的负载均衡模式默认是RR,所以实例越多,实际上重试成功的概率会越高。比如有50个实例,其中一个实例出故障,导致执行返回5xx,那么第二次请求的时候一般来说会有 49/50 的成功概率。如下图:
image

3.2 策略实现(Service Mesh方案)

注释比较清晰了,这边就不解释了。

# VirtualService
apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
  name: xx-svc-b-vs
  namespace: kube-ns-xx
spec:
  hosts:
  - svc_b.google.com # 治理发往 svc-b 服务的流量
  http:
  - match:  # 匹配条件的流量进行治理
    - uri:
        prefix: /v1.0/userinfo   # 匹配路由前缀为 /v1.0/userinfo 的,比如 /v1.0/userinfo/1305015
    retries:
      attempts: 1  # 重试一次
      perTryTimeout: 1s  # 首次调用和每次重试的超时时间
      retryOn: 5xx  # 重试触发的条件
    timeout: 2.5s  #  请求整体超时时间为2.5s,无论重试多少次,超过该时间就断开。
    route:
    - destination:
        host: svc_b.google.com
      weight: 100
  - route:  # 其他未匹配的流量默认不治理,直接流转
    - destination:
        host: svc_c.google.com
      weight: 100

4 总结

云基础场景下的治理手段各种各样,这边讲解了初级版的异常重试,让用户有一个更优良的使用环境。
后续的章节我们逐一了解下超时保护、故障注入、熔断限流、异常驱逐等高级用法。

与微服务14:微服务治理之重试相似的内容:

微服务14:微服务治理之重试

# ★微服务系列 [微服务1:微服务及其演进史](https://www.cnblogs.com/wzh2010/p/14940280.html "微服务1:微服务及其演进史") [微服务2:微服务全景架构 ](https://www.cnblogs.com/wzh2010/p/15311192.h

Dubbo3应用开发—XML形式的Dubbo应用开发和SpringBoot整合Dubbo开发

Dubbo3程序的初步开发 Dubbo3升级的核心内容 易⽤性 开箱即⽤,易⽤性⾼,如 Java 版本的⾯向接⼝代理特性能实现本地透明调⽤功能丰富,基于原⽣库或轻量扩展即可实现绝⼤多数的 微服务治理能⼒。更加完善了多语言支持(GO PYTHON RUST) 超⼤规模微服务实践 ⾼性能通信(Tripl

美团二面:SpringBoot读取配置优先级顺序是什么?

理解并合理运用Spring Boot配置加载的优先级,对于保障应用的安全性、可维护性以及降低部署复杂度至关重要。特别是在大规模微服务架构中,合理的配置管理和迁移对于整体系统的稳定性有着不可忽视的作用。

【网站公告】切换微信扫码登录所使用的服务号

大家好,我们计划于10月14日(周六)上午切换微信扫码登录所使用的服务号,由“i博客园”切换到“博客园Cnblogs”,切换后首次微信扫码登录需要先关注新服务号,由此给您带来麻烦,请您谅解。 也可以现在提前关注新服务号“博客园Cnblogs”,以下是新服务号的二维码: 另外,欢迎您关注园子的微信公众

18.基于Consul的服务发现和ConsulManager管理

192.168.10.14 prometheus、consul 192.168.10.100 各类服务 一、基于Consul的服务发现 Consul 是由 HashiCorp 开发的一个支持多数据中心的分布式服务发现和键值对存储服务的开源软件,是一个通用的服务发现和注册中心工具,被大量应用于基于微服

微服务架构必备技术栈:万变不离其宗的奥义!

前言 之前我们说过,微服务是一种软件设计、架构思想。当然,里面也包含了相关技术点要解决当前要务。学习微服务,我们不能空口而谈,一定要落实到具体的技术栈上。 当今使用比较多两个技术体系,一个是Java,另外一个就是Net。 废话不多说,今天我就把相关“微服务架构”所用到的技术栈罗列出来。(以下是微软相

微服务新体验之Aspire初体验

安装aspire 查看vs版本 我这的版本是17.9.7,不支持aspire,所以需要升级 更新VS 点击 帮助->检查更新 点击更新 静等安装升级 创建aspire项目 项目创建成功,如下图 运行Aspire项目 在AspireApp1.AppHost的launchSettings.json文件中

微服务实践k8s&dapr开发部署实验(3)订阅发布

自托管模式运行dapr 新建订阅webapi项目,取名为backend 项目增加docker支持,取消https支持 修改Program.cs var builder = WebApplication.CreateBuilder(args); builder.Services.AddControll

微服务实践k8s&dapr开发部署实验(2)状态管理

新建webapi项目 建项目时取消https支持,勾选docker支持, Program.cs中注释下面语句,这样部署后才能访问Swagger // Configure the HTTP request pipeline. //if (app.Environment.IsDevelopment())

微服务下认证授权框架的探讨

前言 市面上关于认证授权的框架已经比较丰富了,大都是关于单体应用的认证授权,在分布式架构下,使用比较多的方案是--<应用网关>,网关里集中认证,将认证通过的请求再转发给代理的服务,这种中心化的方式并不适用于微服务,这里讨论另一种方案--<认证中心>,利用jwt去中心化的特性,减轻认证中心的压力,有理