Ribbon负载均衡

1、概述：
【1】、是什么？
    Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端的负载均衡的工具。
    简单的说，Ribbon是Netflix发布的开源项目，主要功能是提供客户端的软件负载均衡算法，将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时，重试等。简单的说就是在配置文件中列出Load Balancer（简称LB）后面所有的机器，Ribbon会自动的帮你基于某种规则（如单轮询，随机连接等）去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。
【2】、作用：
    LB,即负载平衡（Load Balance）在微服务或分布式集群中经常用的一种应用。
    负载平衡简单的说，就是将用户的请求平摊的分配到多个服务，而达到服务的HA（高可用）。
    常见的负载均衡软件Nginx，LVS，硬件F5等。
    相应的中间件，例如：dubbo和SpringCloud中均给我们提供了负载均衡，SpinrgCloud的负载均衡算法可以自定义。
    主要分为两种：1）、集中式LB：偏硬件，即在服务的消费方和提供方之间使用独立的LB设施（可以是硬件F5，也可以是软件Nginx），由该设置负责把访问请求通过某种策略转发至服务的提供方；
        2）、进程内LB：将LB逻辑集成到消费方，消费方从服务注册中心获知有哪些地址可用，然后自己再从这些地址中选择出一个合适的服务器。
        Ribbon就属于进程内LB，它只是一个库，集成于消费方进程，消费方通过它来获取到服务提供方的地址。 
2、Ribbon初步配置
    1）、修改客户端，例如：microservicecloud-consumer-dept-80工程的pom.xml文件

        <!-- Ribbon相关 -->
	<dependency>
		<groupId>org.springframework.cloud</groupId>
		<artifactId>spring-cloud-starter-eureka</artifactId>
	</dependency>
	<dependency>
		<groupId>org.springframework.cloud</groupId>
		<artifactId>spring-cloud-starter-ribbon</artifactId>
	</dependency>
	<dependency>
		<groupId>org.springframework.cloud</groupId>
		<artifactId>spring-cloud-starter-config</artifactId>
	</dependency>
	<dependency>
		<groupId>org.springframework.boot</groupId>
		<artifactId>spring-boot-starter-web</artifactId>
	</dependency>

    2）、修改application.yml，追加eureka的服务注册地址

eureka:
  client:
    register-with-eureka: false
    service-url: 
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/  

    3）、对configBean进行新注解@LoadBalance获得Rest时，加入Ribbon的配置

    @LoadBalanced//Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端       负载均衡的工具。
    public RestTemplate getRestTemplate()
    {
	return new RestTemplate();
    }

    4）、主启动类DeptConsumer80_App添加@EnableEurekaClient

@EnableEurekaClient
public class DeptConsumer80_App
{

    5）、修改deptController_Consumer客户端访问类

	private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";//微服务的名称MICROSERVICECLOUD-DEPT

    6）、先启动3个eureka集群后，在启动microservicecloud-provider-dept-8001并注册进eureka
    7）、启动microservicecloud-consumer-dept-80
    8）、小结：Ribbon和Eureka整合后Consumer可以直接调用服务而不用关心服务和端口号。
3、Ribbon负载均衡

    Ribbon在工作时分为两步：
        1）、先选择EurekaServer，它优先选择在同一个区域内负载较少的server
        2）、根据用户指定的策略，再从server取到的服务注册列表中选择一个地址。
实操：【1】、参考microservicecloud-provide-dept-8001，创建microservicecloud-provide-dept-8002和8003
          【2】、新建8002/8003数据库，各微服务分别连各自的数据库
          【3】、修改8002/8003各自的yml。
                    备注：修改端口和数据库连接，对外暴露的统一的服务实例名不能修改。
          【4】、启动3个eureka集群配置区
          【5】、启动3个Dept微服务并各自测试通过
          【6】、启动microservicecloud-consumer-dept-80
          【7】、客户端通过Ribbo完成负载均衡并访问上一步的Dept微服务
总结：Ribbo其实是一个软负载均衡并客户端组件，他可以和其他所需请求的客户端结合使用，和Eureka结合知识其中一个实例
4、Ribbon核心组件IRule
    Irule：根据特定算法从服务中选取一个要访问的服务。
        1）、RoundRobinRule：轮询
        2）、RandomRule：随机
        3）、AvaliabilityFilteringRule：会先过滤掉由于多次访问故障而处于熔断器跳闸状态的服务，还有并发的连接数量超过阈值的服务，然后对剩余的服务列表按照轮询策略进行访问
        4）、WeightedResponseTimeRule：根据平均响应时间计算所有服务的权重，响应时间越快权重越大被选中的概率就越高，刚启动时统计信息不足时，则使用RoundRobinRule策略，等统计信息足够，则会切换到WeightedResponseTimeRule
        5)、RetryRule：先按照roundRobinRule的策略获取服务，如果获取失败则会在指定时间内进行重试，获取可用服务。
        6）、BestAvailableRule：会过滤掉由于多次访问故障而处于断路器跳闸状态的服务，然后选择一个并发量最小的服务。
        7）、ZoneAvoidanceRule：默认规则，复合判断server所在区域的性能和server的可用性选择器

   以上算法要使用则需要在customer端得configBean.java配置文件中添加：

    @Bean
    public IRule myRule()
    {
	//return new RoundRobinRule();
	//return new RandomRule();//达到的目的，用我们重新选择的随机算法替代默认的轮询。
	return new RetryRule();
    }

5、Ribbon自定义
    1）、修改microservicecloud-consumer-dept-80
    2）、主启动类添加注解@RibbonClient：在启动该微服务的时候就能去加载我们的自定义Ribbon配置类，从而使配置生效，如：@RibbonClient(name = "MICROSERVICECLOUD-DEPT",configuration=MySelfRule.class)

@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration=MySelfRule.class)
public class DeptConsumer80_App
{

    3）、注意细节：警告：这个配置类不能放在@ComponentScan（主启动Java文件的包下面）所扫描的当前包以及子包下，否则我们自定义的这个配置类就会被所有的Ribbon客户端共享，也就是说我们达不到特殊化定制的目的。
自定义myrule：（不能和主 启动类同一个package）

@Configuration
public class MySelfRule
{
	@Bean
	public IRule myRule()
	{
		//return new RandomRule();// Ribbon默认是轮询，我自定义为随机
		//return new RoundRobinRule();// Ribbon默认是轮询，我自定义为随机
		
		return new RandomRule_ZY();// 我自定义为每台机器5次
	}
}

    4）、深度解析：问题：依旧是轮询策略，但是新需求，每个服务器要求被调用5次。即以前是每台机器一次，现在5次。对随机算法源码进行了修改。

public class RandomRule_ZY extends AbstractLoadBalancerRule
{

	// total = 0 // 当total==5以后，我们指针才能往下走，
	// index = 0 // 当前对外提供服务的服务器地址，
	// total需要重新置为零，但是已经达到过一个5次，我们的index = 1
	// 分析：我们5次，但是微服务只有8001 8002 8003 三台，OK？
	// 
	
	
	private int total = 0; 			// 总共被调用的次数，目前要求每台被调用5次
	private int currentIndex = 0;	// 当前提供服务的机器号

	public Server choose(ILoadBalancer lb, Object key)
	{
		if (lb == null) {
			return null;
		}
		Server server = null;

		while (server == null) {
			if (Thread.interrupted()) {
				return null;
			}
			List<Server> upList = lb.getReachableServers();
			List<Server> allList = lb.getAllServers();

			int serverCount = allList.size();
			if (serverCount == 0) {
				/*
				 * No servers. End regardless of pass, because subsequent passes only get more
				 * restrictive.
				 */
				return null;
			}

//			int index = rand.nextInt(serverCount);// java.util.Random().nextInt(3);
//			server = upList.get(index);

			
//			private int total = 0; 			// 总共被调用的次数，目前要求每台被调用5次
//			private int currentIndex = 0;	// 当前提供服务的机器号
                        if(total < 5)
                        {
	                        server = upList.get(currentIndex);
	                        total++;
                        }else {
	                        total = 0;
	                        currentIndex++;
	                        if(currentIndex >= upList.size())
	                        {
	                          currentIndex = 0;
	                        }
                        }			
			
			
			if (server == null) {
				/*
				 * The only time this should happen is if the server list were somehow trimmed.
				 * This is a transient condition. Retry after yielding.
				 */
				Thread.yield();
				continue;
			}

			if (server.isAlive()) {
				return (server);
			}

			// Shouldn't actually happen.. but must be transient or a bug.
			server = null;
			Thread.yield();
		}

		return server;

	}

	public Server choose(Object key)
	{
		return choose(getLoadBalancer(), key);
	}

	public void initWithNiwsConfig(IClientConfig clientConfig)
	{
		// TODO Auto-generated method stub

	}

}

详细学习，可以参考GitHub上Ribbon源码。