Sentinel

2024-01-07 18:20:47

雪崩问题:微服务调用链路种某个服务故障,引起整个链路中的所有微服务都不可用,这就是雪崩。

解决学崩问题的常见方式:

  1. 超时处理:设定超时时间,请求超过一定时间没有响应就返回错误信息,不会无休止等待

  2. 舱壁模式:限定每个业务能使用的线程数,避免耗尽整个tomcat资源,因此也叫线程隔离

  3. 熔断降级:由 断路器 统计业务执行的异常比例,如果超出阈值就会 熔断 该业务,拦截访问该业务的一切请求。

  4. 流量控制:限制业务访问的QPS,避免服务因流量的突增而故障

安装Sentinel控制台

sentinel官方控制了UI控制台,方便我们对系统做限流设置。

  1. 将其拷贝到一个你能记住的非中文目录,然后运行命令:

    java -jar sentinel-dashboard-1.8.1.jar

  2. 然后访问:localhost:8080 即可看到控制台页面,默认的账户和密码都是sentinel

  3. 如果要修改Sentinel的默认端口、账户、密码,可以通过下列配置:

    配置项默认值说明
    server.port8080服务端口
    sentinel.dashboard.auth.usernamesentinel默认用户名
    sentinel.dashboard.auth.passwordsentinel默认密码

    举例说明:

    java -jar sentinel-dashboard-1.8.7.jar -Dserver.port=8090

微服务整合Sentinel

我们在order-service中整合Sentinel,并且连接Sentinel控制台,步骤如下:

  1. 引入sentinel依赖:

    <!--sentinel-->
    <dependency>
     ? ?<groupId>com.alibaba.cloud</groupId> 
     ? ?<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
    </dependency>

  2. 配置控制台地址

    spring:
    	cloud: 
        	sentinel:
            	transport:
                	dashboard: localhost:8080

  3. 访问微服务的任意端点,触发sentinel监控

限流规则

  • 簇点链路:就是项目内的调用链路,链路中 被监控 的每一个接口就是一个资源。默认情况下sentinel会监控SpringMVC的每一个端点(Endpoint),因此SpringMVC的每一个端点就是调用链路中的一个资源。

  • 流控、熔断等都是 针对簇点链路中的资源来设置的,因此我们可以点击对应资源后面的按钮来设置规则:

流控模式

在添加限流规则时,点击高级选项,可以选择三种流控模式:

  • 直接:统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式

  • 关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流

    • 关联模式适合:

      1. 有两个竞争关系的资源

      2. 一个优先级较高,一个优先级较低

  • 链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流

    • Sentinel默认只标记Controller中的方法为资源,如果要标记其它方法,需要利用@SentinelResource注解,示例:

      @SentinelResource("goods")
      public void queryGoods() {
          System.err.println("查询商品");
      }

    • Sentinel默认会将Controller方法做context整合,导致链路模式的流控失效,需要修改application.yml,添加配置:

      spring:
          cloud:
       ?      sentinel:
       ? ? ?      web-context-unify: false # 关闭context整合

流控效果 - warm up

warm up也叫预热模式,是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor,持续指定时长后,逐渐提高到threshold值。而coldFactor的默认值是3.

流控效果 - 排队等待

当请求超过QPS阈值时,快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中,然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成,如果请求预期的等待时间超出最大时长,则会被拒绝。

热点参数限流

之前的限流是统计访问某个资源的所有请求,判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求,判断是否超过QPS阈值。

在热点参数限流的高级选项中,可以对部分参数设置例外配置:

热点参数限流对默认的SpringMVC资源无效

隔离和降级

虽然限流可以尽量避免因高并发而引起的服务故障,但服务还会因为其它原因而故障。而要将这些故障控制在一定范围,避免雪崩,就要靠线程隔离(舱壁模式)和熔断降级手段了。

不管是线程隔离还是熔断降级,都是对客户端(调用方)的保护。

Feign整合Sentinel

SpringCloud中、微服务调用都是通过feign来实现的,因此做客户端保护必须整合Feign和Sentinel。

  1. 修改OrderService的application.yml文件,开启Feign的Sentinel功能

    feign:
        sentinel:
            enable: true #开启feign的Sentinel功能
  2. 给FeignClient编写失败后的降级逻辑

    • 方式1:FallbackClass, 无法对远程调用的异常做处理。

    • 方式2:FallbackFactory,可以对远程调用做异常处理

线程隔离

  1. 线程池隔离:

  2. 信号量隔离(Sentinel默认采用):

  3. 优缺点:

    • 信号量隔离:

      • 优点:

        1. 轻量级,无额外开销

      • 缺点:

        1. 不支持主动超时

        2. 不支持异步调用

      • 场景:

        1. 高频调用

        2. 高扇出

    • 线程池隔离

      • 优点

        1. 支持主动超时

        2. 支持异步调用

      • 缺点

        1. 线程额外开销大

      • 场景

        1. 低扇出

线程隔离(舱壁模式)

添加限流规则时,可以选择两种阈值类型:

  • QPS:就是每秒的请求数,在快速入门中已经演示过

  • 线程数:是该资源能使用用的tomcat线程数的最大值。也就是通过限制线程数量,实现舱壁模式。

熔断降级

熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例,如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求;而当服务恢复时,断路器会放行访问该服务的请求。

熔断策略-慢调用

断路器熔断策略有三种:慢调用、异常比例、异常数

  • 慢调用:业务的响应时长(RT)大于指定时长的请求认定为慢调用请求。在指定时间内,如果请求数量超过设定的最小数量,慢调用比例大于设定的阈值,则触发熔断。例如:

  • 解读:RT超过500ms的调用是慢调用,统计最近10000ms内的请求,如果请求量超过10次,并且慢调用比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。

熔断策略-异常比例、异常数

断路器熔断策略有三种:慢调用、异常比例或异常数

?异常比例或异常数:统计指定时间内的调用,如果调用次数超过指定请求数,并且出现异常的比例达到设定的比例阈值(或超过指定异常数),则触发熔断。例如:

解读:统计最近1000ms内的请求,如果请求量超过10次,并且异常比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。

文章来源:https://blog.csdn.net/weixin_74783792/article/details/135440353
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。