1、Ribbon背景介绍

Ribbon是Netflix发布的开源项目，主要功能是提供客户端的软件负载均衡算法，将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时，重试等。简单来说，就是在配置文件中列出Load Balancer（简称LB）后面所有的机器，Ribbon会自动的帮助你基于某种规则（如简单轮询，随即连接等）去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。

现在的很多RPC框架，向Duobbo、JSF都是采用类似思想进行实现的。

2、常见负载均衡方案

目前主流的负载均衡方案可分成两类。

2.1 集中式负载均衡

一种是集中式LB, 即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件，如F5, 也可以是软件，如nginx, 由该设施负责把访问请求通过某种策略转发至服务的提供方。

2.2 进程式负载均衡

另一种是进程内LB，将LB逻辑集成到消费方，消费方从服务注册中心获知有哪些地址可用，然后自己再从这些地址中选择出一个合适的服务器。Ribbon就属于后者，它只是一个类库，集成于消费方进程，消费方通过它来获取到服务提供方的地址。

3、Ribbon的核心组件

Ribbon 主要有6大功能组件：LoadBalance、ServerList、Rule、Ping、ServerListFilter、ServerListUpdater。

3.1 负载均衡器 LoadBalancer

用于管理负载均衡的组件。初始化的时候通过加载 YMAL 配置文件创建出来的。

3.2 服务列表 ServerList

ServerList 主要用来获取所有服务的地址信息，并保存到本地。根据获取服务信息的方式不同，又分为静态存储和动态存储。

※静态存储

从配置文件中获取服务节点列表并存储到本地。

※动态存储

从注册中心获取服务节点列表并存储到本地。

3.3 服务列表过滤 ServerListFilter

将获取到的服务列表按照过滤规则过滤。通过 Eureka 的分区规则对服务实例进行过滤。

比较服务实例的通信失败数和并发连接数来剔除不够健康的实例，根据所属区域过滤出同区域的服务实例。

3.4 服务列表更新 ServerListUpdater

服务列表更新就是 Ribbon 会从注册中心获取最新的注册表信息。是由这个接口 ServerListUpdater 定义的更新操作。而它有两个实现类，也就是有两种更新方式：

1) 通过定时任务进行更新。由这个实现类 PollingServerListUpdater 做到的。

2）利用 Eureka 的事件监听器来更新。由这个实现类 EurekaNotificationServerListUpdater 做到的。

3.5 心跳检测 Ping

IPing 接口类用来检测哪些服务可用。如果不可用了，就剔除这些服务。实现类主要有这几个：PingUrl、PingConstant、NoOpPing、DummyPing、NIWSDiscoveryPing。心跳检测策略对象 IPingStrategy，默认实现是轮询检测。

3.6 负载均衡策略 Rule

Ribbon 的负载均衡策略和之前讲过的负载均衡策略有部分相同，见第4节，看下Ribbon有哪些负载均衡策略。

4、Ribbon提供的主要负载均衡策略介绍

4.1 简单轮询负载均衡（RoundRobin)

以轮询的方式依次将请求调度不同的服务器，即每次调度执行i = (i + 1) mod n，并选出第i台服务器。轮流依次请求不同的服务器。优点是无需记录当前所有连接的状态，无状态调度；

4.2 随机负载均衡（Random)

随机选择状态为UP的Server。随机选择服务器。适合并发比较大的场景。

4.3 加权响应时间负载均衡（WeightedResponseTime)

每个服务按响应时长自动分配权重，响应时间越长，权重越低，被选中的概率越低；

4.4 区域感知轮询负载均衡（ZoneAvoidanceRule)

更倾向于选择发出调用的服务所在的托管区域内的服务，降低延迟，节省成本。Spring Cloud Ribbon 中默认的策略；区域感知负载均衡（ZoneAvoidanceRule）：更倾向于选择发出调用的服务所在的托管区域内的服务，降低延迟，节省成本。Spring Cloud Ribbon 中默认的策略；

4.5 重试负载均衡（RetryRule）

通过轮询均衡策略选择一个服务器，如果请求失败或响应超时，可以选择重试当前服务节点，也可以选择其他节点；

4.6 高可用均衡（BestAvailableRule）

忽略请求失败的服务器，尽量找并发比较低的服务器。注意：这种会给服务器集群带来成倍的压力；

5、Spring Cloud Ribbon是什么

既然有了Ribbon, 怎么又出来一个Spring Cloud Ribbon呢？

Spring Cloud是基于Netflix Ribbon实现的一套客户端负载均衡的工具。它是一个基于HTTP和TCP的客户端负载均衡器。它可以通过在客户端中配置ribbonServerList来设置服务端列表去轮询访问以达到均衡负载的作用。

通过Spring Cloud的封装，可以让我们轻松地将面向服务的REST模版请求自动转换成客户端负载均衡的服务调用。Spring Cloud Ribbon虽然只是一个工具类框架，它不像服务注册中心、配置中心、API网关那样需要独立部署，但是它几乎存在于每一个Spring Cloud构建的微服务和基础设施中。因为微服务间的调用，API网关的请求转发等内容，实际上都是通过Ribbon来实现的，无需单独部署。

6、准备工作

6.1 创建3个服务

本次项目示例，改造第一篇文章中的项目,使用spring-cloud-eureka-service作为服务注册中心，spring-cloud-eureka-client,复制3分，项目名称依次修改:

spring-cloud-eureka-client-1；

spring-cloud-eureka-client-2；

spring-cloud-eureka-client-3；

分别添加各自依赖，

<dependency>

<groupId>org.springframework.cloud</groupId>

<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>

</dependency>

6.2 添加启动类和Controller

在3个项目中：分别添加各自启动类和Controller类，并使用ribbon做均衡需要测试需要使用到。

代码示例（spring-cloud-eureka-client-1 为例），

//启动类

package com.xintu.springcloud;

import org.springframework.boot.SpringApplication;

import org.springframework.boot.autoconfigure.SpringBootApplication;

import org.springframework.cloud.netflix.eureka.EnableEurekaClient;



@SpringBootApplication

@EnableEurekaClient//代表自己是一个服务提供方

public class SpringCloudEurekaClient1App { //其他两个类名为：SpringCloudEurekaClient2App 、SpringCloudEurekaClient3App



public static void main(String[] args) {

SpringApplication.run(SpringCloudEurekaClient1App.class, args);

}



}

// controller

package com.xintu.springcloud.controller;



import org.springframework.web.bind.annotation.RequestMapping;

import org.springframework.web.bind.annotation.RestController;



@RestController

@RequestMapping("/xintu")

public class HelloWorldController {

@RequestMapping("/hello")

public String helloWorld(String s){

System.out.println("传入的值为："+s);

return "传入的值为-1："+s; //其他两个改为传入的值为-2，传入的值为-3

}

}

6.3 修改YML配置文件

在3个项目中，分别添加yml并修改server: port:端口依次为8711,8712,8713

#指定应用名称

spring:

application:

name: eureka-service



server:

port: 8711 # 服务提供方



# 指定当前eureka客户端的注册地址,

eureka:

instance:

hostname: localhost

client:

service-url:

defaultZone: http://${eureka.instance.hostname}:8700/eureka

7、添加Ribbon消费者

7.1 添加依赖

新建 module, 命名为springcloud-ribbon-consumer，

在pom文件中，添加如下依赖，

<dependency>
	<groupId>org.springframework.cloud</groupId>
	<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

<dependency>
	<groupId>com.xintu.springcloud</groupId>
	<artifactId>springcloud-common</artifactId> //这个为7.2节的module
	<version>0.0.1-SNAPSHOT</version>
</dependency>

7.2 添加公共负载平衡module(提高模块的代理复用性)

新建module, 命名为springcloud-common。

package com.xintu.springcloud.configuration;

import com.netflix.loadbalancer.BestAvailableRule;

import com.netflix.loadbalancer.IRule;

import org.springframework.cloud.client.loadbalancer.LoadBalanced;

import org.springframework.context.annotation.Bean;

import org.springframework.context.annotation.Configuration;

import org.springframework.http.client.ClientHttpRequestFactory;

import org.springframework.http.client.SimpleClientHttpRequestFactory;

import org.springframework.web.client.RestTemplate;



/**

* 配置负载均衡模板

*/

@Configuration

public class RestTemplateConfiguration {



/**

* 公共负载均衡

* @return

*/

@LoadBalanced //b表示开启负载均衡

@Bean

public RestTemplate restTemplate(){

return new RestTemplate(simpleClientHttpRequestFactory());

}



/**

* 自定义配置ribbon负载均衡算法

* @return

*/

@Bean

public IRule myRule(){

//return new RoundRobinRule();//轮询

//return new RetryRule();//重试

return new BestAvailableRule();

}



@Bean

public ClientHttpRequestFactory simpleClientHttpRequestFactory() {

SimpleClientHttpRequestFactory factory

= new SimpleClientHttpRequestFactory();

//设置超时时间

factory.setReadTimeout(5000);//ms

factory.setConnectTimeout(15000);//ms

return factory;

}

}

7.3 创建启动类和controller类

// 启动类

package com.xintu.springcloud;



import org.springframework.boot.SpringApplication;

import org.springframework.boot.autoconfigure.SpringBootApplication;

import org.springframework.cloud.client.discovery.EnableDiscoveryClient;



/**

* @author XinTu

* @classname SpringCloudRibbonConsumerApp

* @description TODO

* @date 2023年03月25日 14:30

*/



@SpringBootApplication

@EnableDiscoveryClient //向服务注册中心注册

public class SpringCloudRibbonConsumerApp {

public static void main(String[] args) {

SpringApplication.run(SpringCloudRibbonConsumerApp.class, args);

}



}

// controller类

package com.xintu.springcloud.controller;



import org.springframework.beans.factory.annotation.Autowired;

import org.springframework.web.bind.annotation.RequestMapping;

import org.springframework.web.bind.annotation.RestController;

import org.springframework.web.client.RestTemplate;



@RestController

@RequestMapping("/xintu")

public class RibbonConsumerController {

@Autowired

private RestTemplate restTemplate;

@RequestMapping("/hello")

public String helloWorld(){

return restTemplate.getForEntity("http://eureka-service/xintu/hello?s=123", String.class).getBody(); //eureka-service 这个为前面三个服务名，无需加ip和端口

}

}

7.4 添加YML配置完整配置 application.yml如下，

#指定应用名称

spring:

application:

name: ribbon-consumer



server:

port: 8866 # 消费方端口



# 指定当前eureka客户端的注册地址,

eureka:

instance:

hostname: localhost

client:

service-url:

defaultZone: http://${eureka.instance.hostname}:8700/eureka

7.5 测试服务

项目启动顺序：

1、springcloud-config-server

2、spring-cloud-eureka-client-1

3、spring-cloud-eureka-client-2

4、spring-cloud-eureka-client-3

5、springcloud-ribbon-consumer

启动该工程后，先访问服务注册中心，查看服务是否都已注册成功：

确认没问题后，开始验证，http://localhost:8866/xintu/hello。可以在浏览器频繁刷新这个地址，会发先返回内容有所不同。说明负载均衡是生效的。

8、各种负载均衡对比

Nginx与Ribbon负载均衡的区别

8.1 服务器端负载均衡Nginx

nginx是客户端所有请求统一交给nginx，由nginx进行实现负载均衡请求转发，属于服务器端负载均衡。

既请求有nginx服务器端进行转发。

8.3 客户端负载均衡Ribbon

Ribbon是从eureka注册中心服务器端上获取服务注册信息列表，缓存到本地，让后在本地实现轮训负载均衡策略。

既在客户端实现负载均衡。

应用场景的区别：

Nginx适合于服务器端实现负载均衡比如Tomcat ，Ribbon适合与在微服务中RPC远程调用实现本地服务负载均衡，比如Dubbo、SpringCloud中都是采用本地负载均衡。

以上！

服务提供者 Eureka + 服务消费者（Rest + Ribbon）实战

1、Ribbon背景介绍

2、常见负载均衡方案

2.1 集中式负载均衡

2.2 进程式负载均衡

3、Ribbon的核心组件

3.1 负载均衡器 LoadBalancer

3.2 服务列表 ServerList

3.3 服务列表过滤 ServerListFilter

3.4 服务列表更新 ServerListUpdater

3.5 心跳检测 Ping

3.6 负载均衡策略 Rule

4、Ribbon提供的主要负载均衡策略介绍

4.1 简单轮询负载均衡（RoundRobin)

4.2 随机负载均衡（Random)

4.3 加权响应时间负载均衡（WeightedResponseTime)

4.4 区域感知轮询负载均衡（ZoneAvoidanceRule)

4.5 重试负载均衡（RetryRule）

4.6 高可用均衡（BestAvailableRule）

5、Spring Cloud Ribbon是什么

6、准备工作

6.1 创建3个服务

6.2 添加启动类和Controller

6.3 修改YML配置文件

7、添加Ribbon消费者

7.1 添加依赖

7.2 添加公共负载平衡module(提高模块的代理复用性)

7.3 创建启动类和controller类

7.4 添加YML配置完整配置 application.yml如下，

7.5 测试服务

8、各种负载均衡对比

8.1 服务器端负载均衡Nginx

8.3 客户端负载均衡Ribbon

猜你喜欢

服务提供者 Eureka + 服务消费者（Rest + Ribbon）实战

1、Ribbon背景介绍

2、常见负载均衡方案

2.1 集中式负载均衡

2.2 进程式负载均衡

3、Ribbon的核心组件

3.1 负载均衡器 LoadBalancer

3.2 服务列表 ServerList

3.3 服务列表过滤 ServerListFilter

3.4 服务列表更新 ServerListUpdater

3.5 心跳检测 Ping

3.6 负载均衡策略 Rule

4、Ribbon提供的主要负载均衡策略介绍

4.1 简单轮询负载均衡（RoundRobin)

4.2 随机负载均衡 （Random)

4.3 加权响应时间负载均衡 （WeightedResponseTime)

4.4 区域感知轮询负载均衡（ZoneAvoidanceRule)

4.5 重试负载均衡（RetryRule）

4.6 高可用均衡（BestAvailableRule）

5、Spring Cloud Ribbon是什么

6、准备工作

6.1 创建3个服务

6.2 添加启动类和Controller

6.3 修改YML配置文件

7、添加Ribbon消费者

7.1 添加依赖

7.2 添加公共负载平衡module(提高模块的代理复用性)

7.3 创建启动类和controller类

7.4 添加YML配置完整配置 application.yml如下，

7.5 测试服务

8、各种负载均衡对比

8.1 服务器端负载均衡Nginx

8.3 客户端负载均衡Ribbon

猜你喜欢

4.2 随机负载均衡（Random)

4.3 加权响应时间负载均衡（WeightedResponseTime)