Ribbon负载均衡

释放双眼,带上耳机,听听看~!

官网

概述

Spring Cloud Ribbon是基于Netflix Ribbon实现的一套
客户端 负载均衡的工具。简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时, 重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法;

LB(负载均衡)

LB, 即负载均衡(Load Balance), 在微服务或分布式集群中经常用的一种应用。负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA。常见的负载均衡有软件Nginx,LVS,硬件F5等。相应的在中间件,例如: dubbo和SpringCloud中均给我们提供了负载均衡,
SpringCloud的负载均衡算法可以自定义。

集中式LB

即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5,也可以是软件,如nginx), 由该设施负责把访问请求通过某种策略转发至服务的提供方;

进程内LB

将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。
Ribbon就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址;

Ribbon配置初步

修改microservicecloud-consumer-dept-80工程

修改pom.xm|文件


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
1       <!-- Ribbon -->
2        <dependency>
3            <groupId>org.springframework.cloud</groupId>
4            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
5            <version>2.1.3.RELEASE</version>
6        </dependency>
7        <dependency>
8            <groupId>org.springframework.cloud</groupId>
9            <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
10            <version>2.1.3.RELEASE</version>
11        </dependency>
12        <dependency>
13            <groupId>org.springframework.cloud</groupId>
14            <artifactId>spring-cloud-starter-config</artifactId>
15        </dependency>
16
17

修改application.yml追加eureka的服务注册地址


1
2
3
4
5
6
7
8
9
1eureka:
2  #客户端注册进eureka服务列表内
3  client:
4    register-with-eureka: false
5    service-url:
6      # 单机:defaultZone: http://localhost:7001/eureka
7      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
8
9

ConfigBean类的getRestTemplate方法加入新注解,获得Rest时加入Ribbon的配置


1
2
3
1@LoadBalanced
2
3

主启动类DeptConsumer80_App添加新注解


1
2
3
1@EnableEurekaClient
2
3

修改DeptController_Consumer客户端访问类


1
2
3
1private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";
2
3

Ribbon负载均衡

测试

先启动3个eureka集群(7001,7002,7003)后,再启动microservicecloud-provider-dept-8001(微服务)并注册进eureka
启动microservicecloud-consumer-dept-80(客户端)
http://localhost/consumer/dept/list

Ribbon负载均衡

结论

Ribbon和Eureka整合后Consumer可以直接调用服务而不用再关心地址和端口号

Ribbon负载均衡

架构说明

Ribbon在工作时分成两步:
第一步先选择EurekaServer,它优先选择在同一个区域内负载较少的server;
第二步再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址;
其中Rilbbon提供了多种策略:比如轮询、随机和根据响应时间加权;

参考microservicecloud-provider-dept-8001, 新建两份,分别命名为8002,8003

pom.xml


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
1    <dependencies>
2        <dependency><!-- 引入自己定义的api通用包,可以使用Dept部门Entity -->
3            <groupId>com.javax</groupId>
4            <artifactId>microservicecloud-api</artifactId>
5            <version>${project.version}</version>
6        </dependency>
7        <!-- actuator监控信息完善 -->
8        <dependency>
9            <groupId>org.springframework.boot</groupId>
10            <artifactId>spring-boot-starter-actuator</artifactId>
11        </dependency>
12        <!-- 将微服务provider注册进eureka -->
13        <dependency>
14            <groupId>org.springframework.cloud</groupId>
15            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
16            <!--<version>2.1.3.RELEASE</version>-->
17        </dependency>
18        <!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-config -->
19        <dependency>
20            <groupId>org.springframework.cloud</groupId>
21            <artifactId>spring-cloud-starter-config</artifactId>
22            <!--<version>2.1.3.RELEASE</version>-->
23        </dependency>
24
25        <dependency>
26            <groupId>junit</groupId>
27            <artifactId>junit</artifactId>
28        </dependency>
29        <dependency>
30            <groupId>mysql</groupId>
31            <artifactId>mysql-connector-java</artifactId>
32        </dependency>
33        <dependency>
34            <groupId>com.alibaba</groupId>
35            <artifactId>druid</artifactId>
36            <version>1.0.31</version>
37        </dependency>
38        <dependency>
39            <groupId>ch.qos.logback</groupId>
40            <artifactId>logback-core</artifactId>
41        </dependency>
42        <dependency>
43            <groupId>org.mybatis.spring.boot</groupId>
44            <artifactId>mybatis-spring-boot-starter</artifactId>
45        </dependency>
46        <!--<dependency>
47            <groupId>org.mortbay.jetty</groupId>
48            <artifactId>spring-boot-statrter-jetty</artifactId>
49            <version>2.1.0.RELEASE</version>
50        </dependency>-->
51        <dependency>
52            <groupId>org.springframework.boot</groupId>
53            <artifactId>spring-boot-starter-web</artifactId>
54            <version>2.1.0.RELEASE</version>
55        </dependency>
56        <dependency>
57            <groupId>org.springframework.boot</groupId>
58            <artifactId>spring-boot-starter-test</artifactId>
59            <version>2.1.0.RELEASE</version>
60        </dependency>
61    </dependencies>
62
63

新建8002/8003数据库db02/db03,各自微服务分别连各自的数据库


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
1CREATE DATABASE db02;
2DROP TABLE IF EXISTS `dept`;
3CREATE TABLE `dept`  (
4  `deptno` bigint(20) NOT NULL AUTO_INCREMENT,
5  `dname` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NULL DEFAULT NULL,
6  `db_source` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NULL DEFAULT NULL,
7  PRIMARY KEY (`deptno`) USING BTREE
8) ENGINE = InnoDB AUTO_INCREMENT = 6 CHARACTER SET = utf8mb4 COLLATE = utf8mb4_general_ci COMMENT = '部门表' ROW_FORMAT = Dynamic;
9
10INSERT INTO `dept` VALUES (1, '开发部', 'db02');
11INSERT INTO `dept` VALUES (2, '人事部', 'db02');
12INSERT INTO `dept` VALUES (3, '财务部', 'db02');
13INSERT INTO `dept` VALUES (4, '市场部', 'db02');
14INSERT INTO `dept` VALUES (5, '运维部', 'db02');
15
16SET FOREIGN_KEY_CHECKS = 1;
17
18

application.yml
备注:端口,数据库连接,对外暴露的统一的服务实例名!!!


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
1server:
2  #8003
3  port: 8002
4mybatis:
5  # mybatis配置文件所在路径
6  config-location: classpath:mybatis/mybatis.cfg.xml
7  #所有Entity别名类所在包
8  type-aliases-package: com.javax.springcloud.entity
9  # mapper映射文件
10  mapper-locations:
11    - classpath:mybatis/mapper/**/*.xml
12spring:
13  application:
14    #对外暴露的微服务名字,绝对不能改!!!
15    name: microservicecloud-dept
16  datasource:
17    #当前数据源操作类型
18    type: com.alibaba.druid.pool.DruidDataSource
19    # mysq1驱动包  弃用com.mysql.jdbc.Driver
20    driver-class-name:  com.mysql.cj.jdbc.Driver
21    #数据库名称,db03
22    url: jdbc:mysql://192.***.**.**:3306/db02?useSSL=false&serverTimezone=UTC&allowPublicKeyRetrieval=true
23    username: ****
24    password: ****
25    dbcp2:
26      #数据库连接池的最小维持连接数
27      min-idle: 5
28      #初始化连接数
29      initial-size: 5
30      #最大连接数
31      max-total: 5
32      #等待连接获取的最大超时时间
33      max-wait-millis: 200
34
35eureka:
36  #客户端注册进eureka服务列表内
37  client:
38    service-url:
39      # 单机:defaultZone: http://localhost:7001/eureka
40      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
41  instance:
42    #自定义服务名称信息
43    instance-id: microservicecloud-dept8002
44    #访问路径可以显示IP地址
45    prefer-ip-address: true
46
47info:
48  app.name: springcloud-microservicecloud
49  #公司名
50  company.name: springcloud
51  build.artifactId: $project.artifactId$
52  build.version: $project.version$
53
54

测试

开启7001,7002,7003,8001,8002,8003。http://localhost:8001/dept/list,http://localhost:8002/dept/list,http://localhost:8003/dept/list

Ribbon负载均衡

再开启80。http://localhost/consumer/dept/list
Ribbon负载均衡

结论

总结: Ribbon其实就是一个软负载均衡的客户端组件,他可以和其他所需请求的客户端结合使用,和eureka结合只是其中的一个实例;

Ribbon核心组件lRule

IRule:根据特定算法中从服务列表中选取一个要访问的服务

  1. RoundRobinRule:轮询(默认)
  2. RandomRule:随机
  3. AvailabilityFilteringRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,然后对剩余的服务列表按照轮询策略进行访问;
  4. WeightedResponseTimeRule:根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高。刚启动时如果统计信息不足,则使用RoundRobinRule策略,等统计信息足够,会切换到WeightedResponse TimeRule;
  5. RetryRule:先按照RoundRobinRule的策略获取服务,如果获取服务失败则在指定时间内会进行重试,获取可用的服务;
  6. BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务;
  7. ZoneAvoidanceRule:默认规则,复合判断server所在区域的性能和server的可用性选择服务器;

使用

在microservicecloud-consumer-dept-80的ConfigBean中添加myRule();


1
2
3
4
5
6
1   @Bean
2    public IRule myRule(){
3        return new RandomRule();//随机算法代替默认的轮询
4    }
5
6

Ribbon自定义

修改microservicecloud-consumer-dept-80

在启动该微服务的时候就能去加载我们的自定义Ribbon配置类,从而使配置生效,形如:@RibbonClient(name=“MICROSERVICECLOUD-DEPT”,configuration=MySelfRule.class)

注意配置细节

这个自定义配置类不能放在@ComponentScan(@SpringBootApplication包含)所扫描的当前包下以及子包下(com.javax.springcloud),否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享,也就是说我们达不到特殊化定制的目的了;

Ribbon负载均衡

步骤

主启动类添加@RibbonClient


1
2
3
1@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration= RandomRule_ZY.class)
2
3

新建myrule包和MySelfRule类

Ribbon负载均衡


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
1package com.javax.myrule;
2
3import com.netflix.loadbalancer.IRule;
4import com.netflix.loadbalancer.RandomRule;
5import org.springframework.context.annotation.Bean;
6import org.springframework.context.annotation.Configuration;
7
8@Configuration
9public class MySelfRule {
10
11    @Bean
12    public IRule myRule(){
13        return new RandomRule_ZY();//RandomRule_ZY参考RandomRule等源码
14    }
15}
16
17

自定义规则解析

解析RandomRule


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
1//
2// Source code recreated from a .class file by IntelliJ IDEA
3// (powered by Fernflower decompiler)
4//
5
6package com.netflix.loadbalancer;
7
8import com.netflix.client.config.IClientConfig;
9import edu.umd.cs.findbugs.annotations.SuppressWarnings;
10import java.util.List;
11import java.util.concurrent.ThreadLocalRandom;
12
13public class RandomRule extends AbstractLoadBalancerRule {
14    public RandomRule() {
15    }
16
17    @SuppressWarnings({"RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE"})
18    public Server choose(ILoadBalancer lb, Object key) {
19        if (lb == null) {
20            return null;
21        } else {
22            Server server = null;
23            //线程是否被中断了
24            while(server == null) {
25                if (Thread.interrupted()) {
26                    return null;
27                }
28
29                List<Server> upList = lb.getReachableServers();
30                List<Server> allList = lb.getAllServers();
31                //allList.size()有多少个server
32                int serverCount = allList.size();
33                if (serverCount == 0) {
34                    return null;
35                }
36              //获取随机数,java.util.Random().nextInt(serverCount);
37                int index = this.chooseRandomInt(serverCount);
38                server = (Server)upList.get(index);
39                if (server == null) {
40                    Thread.yield();
41                } else {
42                    if (server.isAlive()) {
43                        return server;
44                    }
45
46                    server = null;
47                    Thread.yield();
48                }
49            }
50
51            return server;
52        }
53    }
54  //随机数
55    protected int chooseRandomInt(int serverCount) {
56        return ThreadLocalRandom.current().nextInt(serverCount);
57    }
58
59    public Server choose(Object key) {
60        return this.choose(this.getLoadBalancer(), key);
61    }
62
63    public void initWithNiwsConfig(IClientConfig clientConfig) {
64    }
65}
66
67
68

给TA打赏
共{{data.count}}人
人已打赏
安全经验

Google Adsense(Google网站联盟)广告申请指南

2021-10-11 16:36:11

安全经验

安全咨询服务

2022-1-12 14:11:49

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索