SpringCloud详解05-熔断与服务降级

系列文章目录

---

---

前言

本篇记录SpringCloud熔断和服务降级组件Sentinel

---

一、熔断和服务降级

1、分布式架构出现的问题

分布式系统中一个微服务需要依赖于很多的其他的服务，那么服务就会不可避免的失败。例如A服务依赖于B、C、D等很多的服务，当B服务不可用的时候，会一直阻塞或者异常，更不会去调用C服务和D服务。同时假设有其他的服务也依赖于B服务，也会碰到同样的问题，这就及有可能导致雪崩效应。

如下案例：一个用户通过通过web容器访问应用，他要先后调用A、H、I、P四个模块，一切看着都很美好。

由于某些原因，导致I服务不可用，与此同时我们没有快速处理，会导致该用户一直处于阻塞状态。

当其他用户做同样的请求，也会面临着同样的问题，tomcat支持的最大并发数是有限的，资源都是有限的，将整个服务器拖垮都是有可能的。

2、解决方案

Sentinel是一个用于分布式系统的延迟和容错的开源库，在分布式系统中，许多依赖会不可避免的调用失败，例如超时，异常等，Sentinel能保证在一个依赖出现问题的情况下，不会导致整体服务失败，避免级联故障，以提高分布式系统的弹性。

断路器本身是一种开关装置，当某个服务单元发生故障后，通过断路器的故障监控（类似于保险丝），向调用者返回符合预期的，可处理的备选响应，而不是长时间的等待或者抛出无法处理的异常，这样就保证了服务调用的线程不会被长时间，不必要的占用，从而避免故障在分布式系统中的蔓延，乃至雪崩。

Sentinel在网络依赖服务出现高延迟或者失败时，为系统提供保护和控制;可以进行快速失败，缩短延迟等待时间；提供失败回退（Fallback）和相对优雅的服务降级机制；提供有效的服务容错监控、报警和运维控制手段。

二、Sentinel的使用步骤

1.下载资源

下载地址：https://github.com/alibaba/Sentinel/releases

2.导入依赖

在原有项目的基础上

在springcloud-alibaba-microservice-consumer-8080和springcloud-alibaba-microservice-provider-7070工程的pom.xml文件导入依赖

 <!--服务熔断降级-->
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
        </dependency>

3.启动sentinel

下载完资源以后，在任意盘符下解压缩，会发现里边是一个jar，在当前目录下输入cmd进入命令提示符，输入以下命令：java -jar sentinel-dashboard-1.8.1.jar --server.port=9999 命令启动，注意，这里的端口号任意，只要不存在冲突就行

启动成功，注意，dos命令窗口不要关闭

4.添加配置

接下来，需要我们去消费方和服务提供方的yml文件中添加sentinel的配置，内容如下：

spring:
  application:
    name: provider #服务名
  cloud:
  	#nacos配置
    nacos:
      discovery:
        register-enabled: true
        server-addr: 127.0.0.1:8848
    #sentinel配置
    sentinel:
      transport:
        port: 8719 #推送数据端口
        dashboard: 127.0.0.1:8081 #启动端口
      web-context-unify: false #false表示针对调用同一接口的不同url进行链路限制
server:
  port: 7070

消费方的添加内容和服务提供方一样，不再赘述

5.查看sentinel控制面板

启动提供服务方和消费方，注意在启动之前，要先把nacos启动，然后访问消费方的方法，多访问几次，浏览器地址栏输入localhost:9999访问sentinel控制面板，默认密码是sentinel

可以看到我们刚才的访问记录

实时监控

集成控制台后，当有请求时，实时监控页面会显示当前服务各个接口的访问信息，以图表的形式展示给用户，包含访问时间、通过 QPS、拒绝QPS、响应时间（ms）等信息。

簇点链路

• 列表：用于展示服务所有接口，包含通过QPS、拒绝QPS、线程数、平均RT、分钟通过、分钟拒绝等信息，端口为服务与Sentinel控制台>交互的端口，服务本地会起一个该端口占用的HttpServer，该 Server 会与 Sentinel 控制台做交互。
• 比如： Sentinel 控制台添加了一个限流规则，会把规则数据 push 给这个 Http Server 接收，Http Server 再将规则注册到 Sentinel 中。
• 操作：可以点击，然后对当前资源添加流控、降级、热点、授权等相关操作

流控规则

流量控制，其原理是监控应用流量的QPS(每秒查询率) 或并发线程数等指标，当达到指定的阈值时对流量进行控制，以避免被瞬时的流量高峰冲垮，从而保障应用的高可用性。

• 资源名：唯一名称，默认是请求路径，可自定义

• 针对来源：流控针对的调用来源，若为 default 则不区分调用来源

• 阈值类型：

  • QPS（每秒请求数量）: 当调用该接口的QPS达到阈值的时候，进行限流
  • 线程数：当调用该接口的线程数达到阈值的时候，进行限流

• 单机阈值：QPS或线程数的阈值数，达到阈值则限流

• 是否集群：是否开启集群流控，不选择则默认为单机模式

• 流控模式：

  • 直接（默认）：接口达到限流条件时，开启限流
  • 关联：当关联的资源达到限流条件时，开启限流 [适合做应用让步]
  • 链路：当从某个接口过来的资源达到限流条件时，开启限流

• 流控效果：

  • 快速失败：该方式是默认的流量控制方式，当QPS超过任意规则的阈值后，新的请求就会被立即拒绝，拒绝方式为抛出FlowException。
  • Warm Up（冷启动）：该方式主要用于系统长期处于低水位的情况下，当流量突然增加时，直接把系统拉升到高水位可能瞬间把系统压垮。通过"冷启动"，让通过的流量缓慢增加，在一定时间内逐渐增加到阈值上限，给冷系统一个预热的时间，避免冷系统被压垮的情况。
  • 排队等待：这种方式严格控制了请求通过的间隔时间，也即是让请求以均匀的速度通过，对应的是漏桶算法。

降级规则

除了流量控制以外，对调用链路中不稳定的资源进行熔断降级也是保障高可用的重要措施之一

• 资源名： 要实现降级的资源。

• 慢调用比例：
  慢调用比例 (SLOW_REQUEST_RATIO)：选择以慢调用比例作为阈值，需要设置允许的慢调用 RT（即最大的响应时间），请求的响应时间大于该值则统计为慢调用。当单位统计时长（statIntervalMs）内请求数目大于设置的最小请求数目，并且慢调用的比例大于阈值，则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态（HALF-OPEN 状态），若接下来的一个请求响应时间小于设置的慢调用 RT 则结束熔断，若大于设置的慢调用 RT 则会再次被熔断。

• 调用：一个请求发送到服务器，服务器给与响应，一个响应就是一个调用

• 慢调用：当调用的时间（响应的实际时间）>设置的RT的时，这个调用叫做慢调用

• 慢调用比例：在所以调用中，慢调用占有实际的比例，= 慢调用次数 / 调用次数

• RT：响应时间，指系统对请求作出响应的时间。

• 比例阈值：RT模式下慢速请求比率的阈值。默认1.0d，自己设定， 慢调用次数 / 调用次数=比例阈值

• 熔断时长：断路器打开时的恢复超时（以秒为单位）。超时后，断路器将转换为半开状态以尝试一些请求，单位秒，图中表示触发熔断后，接下来的10秒内请求会自动被熔断，经过10S后熔断器会进入探测恢复状态（HALF-OPEN 状态），若接下来的一个请求响应时间小于设置的慢调用 RT 则结束熔断，若大于设置的慢调用 RT 则会再次被熔断。

• 最小请求数：可以触发熔断中断的最小请求数（在有效的统计时间范围内)。默认值为5，设置的调用最小请求数

• 统计时长: （单位为 ms），如 60*1000 代表分钟级（1.8.0 引入），默认1000

• 异常比例：
  当单位统计时长（statIntervalMs）内请求数目大于设置的最小请求数目，并且异常的比例大于阈值，则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态（HALF-OPEN 状态），若接下来的一个请求成功完成（没有错误）则结束熔断，否则会再次被熔断。异常比率的阈值范围是 [0.0, 1.0]，代表 0% - 100%。

• 异常数：
  当单位统计时长内的异常数目超过阈值之后会自动进行熔断。经过熔断时长后熔断器会进入探测恢复状态（HALF-OPEN 状态），若接下来的一个请求成功完成（没有错误）则结束熔断，否则会再次被熔断。

6.代码实现

我们可以通过代码+控制面板配合使用的方式来实现流控，和降级规则的实现。
在springcloudalibaba-micro-consumer-8080工程中的FeignUserController中添加对应的方法进行测试

package com.lzl.controller;

import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.lzl.dto.UserDto;
import com.lzl.sentinel.MyBlockHandler;
import com.lzl.sentinel.MyFallback;
import com.lzl.service.UserService;
import com.lzl.utils.JsonResult;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.*;


/**
 * --效率，是成功的核心关键--
 *
 * @Author lzl
 * @Date 2023/3/15 16:25
 */


@RestController
@RequestMapping("feign")
public class FeignUserController {
    
    

    @Autowired
    private UserService userService;

        @RequestMapping("findAll")
    @SentinelResource(value = "zhenLong-findAll",blockHandlerClass = MyBlockHandler.class,blockHandler = "findAllBlockHandler")
    //@SentinelResource(value = "zhenLong-findAll",fallbackClass = MyFallback.class,fallback = "findAllFallback")
    public JsonResult findAll(){
    
    
        return userService.findAll();
    }
    //模拟数据库操作
    //查询单个
    @SentinelResource(value = "zhenLong-findById",blockHandlerClass = MyBlockHandler.class,blockHandler = "getByIdBlockHandler")
    @GetMapping("findById")
    public JsonResult findById(@RequestParam("id") Integer id){
    
    
        return userService.findById(id);
    }


  
}

这里我们以查询所有和根据id查询两个方法来举例，我们需要在单个控制器方法上添加 @SentinelResource 注解，来标注当前控制器的行为特征，其中

• value，标识资源名，
• blockHandlerClass指向当熔断或者流控规则触发时的异常类型处理类，因为默认是页面报异常，为了修改默认报错信息，可以在该类中进行异常的处理，
• blockHandler 和 fallback指向异常处理类的处理方法，它们的区别是
  • 1. 如果没有用blockHandler，fallback无论是违反了什么规则，都走fallback
  • 2. blockHandler和 fallback 如果都配置了，优先走blockHandler，可以区别限流、降级、热点等。
  • 3. blockHandler是将服务降级的方法与目标方法在同一个类中。如果不同的类中，有些方法需要使用相同的服务降级， 就可以使用blockHandlerClass来定义个一类，然后通过blockHandler来指定对应的降级的方法。方法必须是静态。
  • 4. fallback可以处理非 sentinel 的异常。

例如：当没有配置相应的异常处理，发生流控异常时会显示如下：

而配置异常处理以后：

异常处理类

MyBlockHandler:

package com.lzl.sentinel;

import com.alibaba.csp.sentinel.slots.block.BlockException;
import com.alibaba.csp.sentinel.slots.block.authority.AuthorityException;
import com.alibaba.csp.sentinel.slots.block.degrade.DegradeException;
import com.alibaba.csp.sentinel.slots.block.flow.FlowException;
import com.alibaba.csp.sentinel.slots.block.flow.param.ParamFlowException;
import com.lzl.utils.JsonResult;

/**
 * --效率，是成功的核心关键--
 *
 * @Author lzl
 * @Date 2023/3/16 14:25
 */

public class MyBlockHandler {
    
    
    public static JsonResult findUsersBlockHandler(BlockException e){
    
    

        JsonResult jsonResult = JsonResult.error();

        if (e instanceof FlowException){
    
    
            jsonResult.setMsg("流控异常");
        }else if (e instanceof DegradeException){
    
    
            jsonResult.setMsg("降级异常");
        }else if (e instanceof ParamFlowException){
    
    
            jsonResult.setMsg("热点异常");
        }else{
    
    
            jsonResult.setMsg("其他sentinel异常");
        }
        return jsonResult;
    }
    //处理的方法要和调用方法的返回值以及参数一致
    public static JsonResult getByIdBlockHandler(Integer id,BlockException e){
    
    

        JsonResult jsonResult = JsonResult.error();

        if (e instanceof ParamFlowException){
    
    
            jsonResult.setMsg("热点异常");
        }else if( e instanceof AuthorityException){
    
    
            jsonResult.setMsg("来源不明");
        }
        return jsonResult;
    }
}

MyFallback:

package com.lzl.sentinel;

import com.lzl.utils.JsonResult;

/**
 * --效率，是成功的核心关键--
 * Feign和Sentinel整合使用
 * 配置fallback，当方法熔断降级后调用指定类中对应的方法
 * //@FeignClient(value = "micro-service-provider",fallback = UserServiceHandler.class)
 * @Author lzl
 * @Date 2023/3/16 14:28
 */

public class MyFallback {
    
    
    public static JsonResult findAllFallback(Throwable throwable){
    
    
        JsonResult jsonResult = JsonResult.error();
        jsonResult.setData(throwable.getMessage());
        return jsonResult;
    }

}

在控制面板配置流控或者降级规则，在@SentinelResource的value对应的值的那一栏点击流控或降级进行配置

设置单机阈值为2，快速访问3次findAll如下：

对findById资源进行降级配置

连续快速访问findById方法：

发现请求被熔断

7、热点规则

Sentinel 利用 LRU 策略统计最近最常访问的热点参数，结合令牌桶算法来进行参数级别的流控。热点参数限流支持集群模式。
何为热点？热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top K 数据，并对其访问进行限制。比如：

• 商品 ID 为参数，统计一段时间内最常购买的商品 ID 并进行限制
• 用户 ID 为参数，针对一段时间内频繁访问的用户 ID 进行限制

热点参数限流会统计传入参数中的热点参数，并根据配置的限流阈值与模式，对包含热点参数的资源调用进行限流。热点参数限流可以看做是一种特殊的流量控制，仅对包含热点参数的资源调用生效。

以上面代码为例，对查询单个用户设置热点规则

快速访问进行测试：

也可以添加例外值


访问id为1时，限流阈值改为10，则只有1秒内访问10才达到限流，测试略

8、授权规则

很多时候，我们需要根据调用来源来判断该次请求是否允许放行，这时候可以使用 Sentinel 的来源访问控制（黑白名单控制）的功能。来源访问控制根据资源的请求来源（origin）限制资源是否通过，若配置白名单则只有请求来源位于白名单内时才可通过；若配置黑名单则请求来源位于黑名单时不通过，其余的请求通过。

代码实现：

1.创建SentinelOriginParser类实现指定接口，指定要传递的origin参数（参数名任意）

package com.lzl.sentinel;

import com.alibaba.csp.sentinel.adapter.spring.webmvc.callback.RequestOriginParser;
import com.alibaba.csp.sentinel.util.StringUtil;
import org.springframework.stereotype.Component;

import javax.servlet.http.HttpServletRequest;

/**
 * --效率，是成功的核心关键--
 * 授权规则配置的就是该参数的值
 * @Author lzl
 * @Date 2023/3/16 15:50
 */
@Component
public class SentinelOriginParser implements RequestOriginParser{
    
    
    @Override
    public String parseOrigin(HttpServletRequest httpServletRequest) {
    
    
        String origin = httpServletRequest.getParameter("origin");

        if(StringUtil.isBlank(origin)) {
    
    
            throw new IllegalArgumentException("origin parameter is must not be empty");
        }

        //授权规则配置的就是该参数的值
        return origin;
    }
}

重启消费方服务，访问http://localhost:8081/feign/findAll


报错我们缺少参数，地址栏带上参数访问

多访问几次，进入Sentinel管理界面，对findAll新增授权规则

将ios拉入黑名单，再次访问

android访问

补充：可以在整个controller添加，前提是配置了Feign

@FeignClient(value = "micro-service-provider",fallback = UserServiceHandler.class)

编写对应的处理异常类，就可以实现对每个方法的异常处理

package com.qf.service;

import com.qf.pojo.User;
import com.qf.utils.JsonResult;
import org.springframework.stereotype.Component;

//和UserService中的方法一一对应
@Component
public class UserServiceHandler implements UserService{
    
    
    @Override
    public JsonResult getById(Integer id) {
    
    
        JsonResult jsonResult = JsonResult.error();
        jsonResult.setData("sentinel异常");

        return jsonResult;
    }

    @Override
    public JsonResult findAll() {
    
    
        return JsonResult.error();
    }

    @Override
    public JsonResult findById(Integer id) {
    
    
        return JsonResult.error();
    }

    @Override
    public JsonResult deleteById(Integer id) {
    
    
        return JsonResult.error();
    }

    @Override
    public JsonResult addUser(User user) {
    
    
        return JsonResult.error();
    }

    @Override
    public JsonResult updateUser(Integer id, String username, String password) {
    
    
        return JsonResult.error();
    }
}

---

总结

本篇是对熔断与服务降级，Sentinel的使用进行了详细记录，更多内容见下篇