Sentinel
雪崩问题:微服务调用链路种某个服务故障,引起整个链路中的所有微服务都不可用,这就是雪崩。
解决学崩问题的常见方式:
-
超时处理:设定超时时间,请求超过一定时间没有响应就返回错误信息,不会无休止等待
-
舱壁模式:限定每个业务能使用的线程数,避免耗尽整个tomcat资源,因此也叫线程隔离
-
熔断降级:由 断路器 统计业务执行的异常比例,如果超出阈值就会 熔断 该业务,拦截访问该业务的一切请求。
-
流量控制:限制业务访问的QPS,避免服务因流量的突增而故障
安装Sentinel控制台
sentinel官方控制了UI控制台,方便我们对系统做限流设置。
-
将其拷贝到一个你能记住的非中文目录,然后运行命令:
java -jar sentinel-dashboard-1.8.1.jar
-
然后访问:localhost:8080 即可看到控制台页面,默认的账户和密码都是sentinel
-
如果要修改Sentinel的默认端口、账户、密码,可以通过下列配置:
配置项 默认值 说明 server.port 8080 服务端口 sentinel.dashboard.auth.username sentinel 默认用户名 sentinel.dashboard.auth.password sentinel 默认密码 举例说明:
java -jar sentinel-dashboard-1.8.7.jar -Dserver.port=8090
微服务整合Sentinel
我们在order-service中整合Sentinel,并且连接Sentinel控制台,步骤如下:
-
引入sentinel依赖:
<!--sentinel--> <dependency> ? ?<groupId>com.alibaba.cloud</groupId> ? ?<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId> </dependency>
-
配置控制台地址
spring: cloud: sentinel: transport: dashboard: localhost:8080
-
访问微服务的任意端点,触发sentinel监控
限流规则
-
簇点链路:就是项目内的调用链路,链路中 被监控 的每一个接口就是一个资源。默认情况下sentinel会监控SpringMVC的每一个端点(Endpoint),因此SpringMVC的每一个端点就是调用链路中的一个资源。
-
流控、熔断等都是 针对簇点链路中的资源来设置的,因此我们可以点击对应资源后面的按钮来设置规则:
流控模式
在添加限流规则时,点击高级选项,可以选择三种流控模式:
-
直接:统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式
-
关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
-
关联模式适合:
-
有两个竞争关系的资源
-
一个优先级较高,一个优先级较低
-
-
-
链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流
-
Sentinel默认只标记Controller中的方法为资源,如果要标记其它方法,需要利用@SentinelResource注解,示例:
@SentinelResource("goods") public void queryGoods() { System.err.println("查询商品"); }
-
Sentinel默认会将Controller方法做context整合,导致链路模式的流控失效,需要修改application.yml,添加配置:
spring: cloud: ? sentinel: ? ? ? web-context-unify: false # 关闭context整合
-
流控效果 - warm up
warm up也叫预热模式,是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor,持续指定时长后,逐渐提高到threshold值。而coldFactor的默认值是3.
流控效果 - 排队等待
当请求超过QPS阈值时,快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中,然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成,如果请求预期的等待时间超出最大时长,则会被拒绝。
热点参数限流
之前的限流是统计访问某个资源的所有请求,判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求,判断是否超过QPS阈值。
在热点参数限流的高级选项中,可以对部分参数设置例外配置:
热点参数限流对默认的SpringMVC资源无效
隔离和降级
虽然限流可以尽量避免因高并发而引起的服务故障,但服务还会因为其它原因而故障。而要将这些故障控制在一定范围,避免雪崩,就要靠线程隔离(舱壁模式)和熔断降级手段了。
不管是线程隔离还是熔断降级,都是对客户端(调用方)的保护。
Feign整合Sentinel
SpringCloud中、微服务调用都是通过feign来实现的,因此做客户端保护必须整合Feign和Sentinel。
-
修改OrderService的application.yml文件,开启Feign的Sentinel功能
feign: sentinel: enable: true #开启feign的Sentinel功能
-
给FeignClient编写失败后的降级逻辑
-
方式1:FallbackClass, 无法对远程调用的异常做处理。
-
方式2:FallbackFactory,可以对远程调用做异常处理
-
线程隔离
-
线程池隔离:
-
信号量隔离(Sentinel默认采用):
-
优缺点:
-
信号量隔离:
-
优点:
-
轻量级,无额外开销
-
-
缺点:
-
不支持主动超时
-
不支持异步调用
-
-
场景:
-
高频调用
-
高扇出
-
-
-
线程池隔离
-
优点
-
支持主动超时
-
支持异步调用
-
-
缺点
-
线程额外开销大
-
-
场景
-
低扇出
-
-
-
线程隔离(舱壁模式)
添加限流规则时,可以选择两种阈值类型:
-
QPS:就是每秒的请求数,在快速入门中已经演示过
-
线程数:是该资源能使用用的tomcat线程数的最大值。也就是通过限制线程数量,实现舱壁模式。
熔断降级
熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例,如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求;而当服务恢复时,断路器会放行访问该服务的请求。
熔断策略-慢调用
断路器熔断策略有三种:慢调用、异常比例、异常数
-
慢调用:业务的响应时长(RT)大于指定时长的请求认定为慢调用请求。在指定时间内,如果请求数量超过设定的最小数量,慢调用比例大于设定的阈值,则触发熔断。例如:
-
解读:RT超过500ms的调用是慢调用,统计最近10000ms内的请求,如果请求量超过10次,并且慢调用比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
熔断策略-异常比例、异常数
断路器熔断策略有三种:慢调用、异常比例或异常数
?异常比例或异常数:统计指定时间内的调用,如果调用次数超过指定请求数,并且出现异常的比例达到设定的比例阈值(或超过指定异常数),则触发熔断。例如:
解读:统计最近1000ms内的请求,如果请求量超过10次,并且异常比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!