官网
概述
Spring Cloud Ribbon是基于Netflix Ribbon实现的一套
客户端 负载均衡的工具。简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时, 重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法;
LB(负载均衡)
LB, 即负载均衡(Load Balance), 在微服务或分布式集群中经常用的一种应用。负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA。常见的负载均衡有软件Nginx,LVS,硬件F5等。相应的在中间件,例如: dubbo和SpringCloud中均给我们提供了负载均衡,
SpringCloud的负载均衡算法可以自定义。
集中式LB
即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5,也可以是软件,如nginx), 由该设施负责把访问请求通过某种策略转发至服务的提供方;
进程内LB
将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。
Ribbon就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址;
Ribbon配置初步
修改microservicecloud-consumer-dept-80工程
修改pom.xm|文件
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17 1 <!-- Ribbon -->
2 <dependency>
3 <groupId>org.springframework.cloud</groupId>
4 <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
5 <version>2.1.3.RELEASE</version>
6 </dependency>
7 <dependency>
8 <groupId>org.springframework.cloud</groupId>
9 <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
10 <version>2.1.3.RELEASE</version>
11 </dependency>
12 <dependency>
13 <groupId>org.springframework.cloud</groupId>
14 <artifactId>spring-cloud-starter-config</artifactId>
15 </dependency>
16
17
修改application.yml追加eureka的服务注册地址
1
2
3
4
5
6
7
8
9 1eureka:
2 #客户端注册进eureka服务列表内
3 client:
4 register-with-eureka: false
5 service-url:
6 # 单机:defaultZone: http://localhost:7001/eureka
7 defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
8
9
ConfigBean类的getRestTemplate方法加入新注解,获得Rest时加入Ribbon的配置
1
2
3 1@LoadBalanced
2
3
主启动类DeptConsumer80_App添加新注解
1
2
3 1@EnableEurekaClient
2
3
修改DeptController_Consumer客户端访问类
1
2
3 1private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";
2
3
测试
先启动3个eureka集群(7001,7002,7003)后,再启动microservicecloud-provider-dept-8001(微服务)并注册进eureka
启动microservicecloud-consumer-dept-80(客户端)
http://localhost/consumer/dept/list
结论
Ribbon和Eureka整合后Consumer可以直接调用服务而不用再关心地址和端口号
Ribbon负载均衡
架构说明
Ribbon在工作时分成两步:
第一步先选择EurekaServer,它优先选择在同一个区域内负载较少的server;
第二步再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址;
其中Rilbbon提供了多种策略:比如轮询、随机和根据响应时间加权;
参考microservicecloud-provider-dept-8001, 新建两份,分别命名为8002,8003
pom.xml
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63 1 <dependencies>
2 <dependency><!-- 引入自己定义的api通用包,可以使用Dept部门Entity -->
3 <groupId>com.javax</groupId>
4 <artifactId>microservicecloud-api</artifactId>
5 <version>${project.version}</version>
6 </dependency>
7 <!-- actuator监控信息完善 -->
8 <dependency>
9 <groupId>org.springframework.boot</groupId>
10 <artifactId>spring-boot-starter-actuator</artifactId>
11 </dependency>
12 <!-- 将微服务provider注册进eureka -->
13 <dependency>
14 <groupId>org.springframework.cloud</groupId>
15 <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
16 <!--<version>2.1.3.RELEASE</version>-->
17 </dependency>
18 <!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-config -->
19 <dependency>
20 <groupId>org.springframework.cloud</groupId>
21 <artifactId>spring-cloud-starter-config</artifactId>
22 <!--<version>2.1.3.RELEASE</version>-->
23 </dependency>
24
25 <dependency>
26 <groupId>junit</groupId>
27 <artifactId>junit</artifactId>
28 </dependency>
29 <dependency>
30 <groupId>mysql</groupId>
31 <artifactId>mysql-connector-java</artifactId>
32 </dependency>
33 <dependency>
34 <groupId>com.alibaba</groupId>
35 <artifactId>druid</artifactId>
36 <version>1.0.31</version>
37 </dependency>
38 <dependency>
39 <groupId>ch.qos.logback</groupId>
40 <artifactId>logback-core</artifactId>
41 </dependency>
42 <dependency>
43 <groupId>org.mybatis.spring.boot</groupId>
44 <artifactId>mybatis-spring-boot-starter</artifactId>
45 </dependency>
46 <!--<dependency>
47 <groupId>org.mortbay.jetty</groupId>
48 <artifactId>spring-boot-statrter-jetty</artifactId>
49 <version>2.1.0.RELEASE</version>
50 </dependency>-->
51 <dependency>
52 <groupId>org.springframework.boot</groupId>
53 <artifactId>spring-boot-starter-web</artifactId>
54 <version>2.1.0.RELEASE</version>
55 </dependency>
56 <dependency>
57 <groupId>org.springframework.boot</groupId>
58 <artifactId>spring-boot-starter-test</artifactId>
59 <version>2.1.0.RELEASE</version>
60 </dependency>
61 </dependencies>
62
63
新建8002/8003数据库db02/db03,各自微服务分别连各自的数据库
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18 1CREATE DATABASE db02;
2DROP TABLE IF EXISTS `dept`;
3CREATE TABLE `dept` (
4 `deptno` bigint(20) NOT NULL AUTO_INCREMENT,
5 `dname` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NULL DEFAULT NULL,
6 `db_source` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NULL DEFAULT NULL,
7 PRIMARY KEY (`deptno`) USING BTREE
8) ENGINE = InnoDB AUTO_INCREMENT = 6 CHARACTER SET = utf8mb4 COLLATE = utf8mb4_general_ci COMMENT = '部门表' ROW_FORMAT = Dynamic;
9
10INSERT INTO `dept` VALUES (1, '开发部', 'db02');
11INSERT INTO `dept` VALUES (2, '人事部', 'db02');
12INSERT INTO `dept` VALUES (3, '财务部', 'db02');
13INSERT INTO `dept` VALUES (4, '市场部', 'db02');
14INSERT INTO `dept` VALUES (5, '运维部', 'db02');
15
16SET FOREIGN_KEY_CHECKS = 1;
17
18
application.yml
备注:端口,数据库连接,对外暴露的统一的服务实例名!!!
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54 1server:
2 #8003
3 port: 8002
4mybatis:
5 # mybatis配置文件所在路径
6 config-location: classpath:mybatis/mybatis.cfg.xml
7 #所有Entity别名类所在包
8 type-aliases-package: com.javax.springcloud.entity
9 # mapper映射文件
10 mapper-locations:
11 - classpath:mybatis/mapper/**/*.xml
12spring:
13 application:
14 #对外暴露的微服务名字,绝对不能改!!!
15 name: microservicecloud-dept
16 datasource:
17 #当前数据源操作类型
18 type: com.alibaba.druid.pool.DruidDataSource
19 # mysq1驱动包 弃用com.mysql.jdbc.Driver
20 driver-class-name: com.mysql.cj.jdbc.Driver
21 #数据库名称,db03
22 url: jdbc:mysql://192.***.**.**:3306/db02?useSSL=false&serverTimezone=UTC&allowPublicKeyRetrieval=true
23 username: ****
24 password: ****
25 dbcp2:
26 #数据库连接池的最小维持连接数
27 min-idle: 5
28 #初始化连接数
29 initial-size: 5
30 #最大连接数
31 max-total: 5
32 #等待连接获取的最大超时时间
33 max-wait-millis: 200
34
35eureka:
36 #客户端注册进eureka服务列表内
37 client:
38 service-url:
39 # 单机:defaultZone: http://localhost:7001/eureka
40 defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
41 instance:
42 #自定义服务名称信息
43 instance-id: microservicecloud-dept8002
44 #访问路径可以显示IP地址
45 prefer-ip-address: true
46
47info:
48 app.name: springcloud-microservicecloud
49 #公司名
50 company.name: springcloud
51 build.artifactId: $project.artifactId$
52 build.version: $project.version$
53
54
测试
开启7001,7002,7003,8001,8002,8003。http://localhost:8001/dept/list,http://localhost:8002/dept/list,http://localhost:8003/dept/list
结论
总结: Ribbon其实就是一个软负载均衡的客户端组件,他可以和其他所需请求的客户端结合使用,和eureka结合只是其中的一个实例;
Ribbon核心组件lRule
IRule:根据特定算法中从服务列表中选取一个要访问的服务
- RoundRobinRule:轮询(默认)
- RandomRule:随机
- AvailabilityFilteringRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,然后对剩余的服务列表按照轮询策略进行访问;
- WeightedResponseTimeRule:根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高。刚启动时如果统计信息不足,则使用RoundRobinRule策略,等统计信息足够,会切换到WeightedResponse TimeRule;
- RetryRule:先按照RoundRobinRule的策略获取服务,如果获取服务失败则在指定时间内会进行重试,获取可用的服务;
- BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务;
- ZoneAvoidanceRule:默认规则,复合判断server所在区域的性能和server的可用性选择服务器;
使用
在microservicecloud-consumer-dept-80的ConfigBean中添加myRule();
1
2
3
4
5
6 1 @Bean
2 public IRule myRule(){
3 return new RandomRule();//随机算法代替默认的轮询
4 }
5
6
Ribbon自定义
修改microservicecloud-consumer-dept-80
在启动该微服务的时候就能去加载我们的自定义Ribbon配置类,从而使配置生效,形如:@RibbonClient(name=“MICROSERVICECLOUD-DEPT”,configuration=MySelfRule.class)
注意配置细节
这个自定义配置类不能放在@ComponentScan(@SpringBootApplication包含)所扫描的当前包下以及子包下(com.javax.springcloud),否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享,也就是说我们达不到特殊化定制的目的了;
步骤
主启动类添加@RibbonClient
1
2
3 1@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration= RandomRule_ZY.class)
2
3
新建myrule包和MySelfRule类
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17 1package com.javax.myrule;
2
3import com.netflix.loadbalancer.IRule;
4import com.netflix.loadbalancer.RandomRule;
5import org.springframework.context.annotation.Bean;
6import org.springframework.context.annotation.Configuration;
7
8@Configuration
9public class MySelfRule {
10
11 @Bean
12 public IRule myRule(){
13 return new RandomRule_ZY();//RandomRule_ZY参考RandomRule等源码
14 }
15}
16
17
自定义规则解析
解析RandomRule
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68 1//
2// Source code recreated from a .class file by IntelliJ IDEA
3// (powered by Fernflower decompiler)
4//
5
6package com.netflix.loadbalancer;
7
8import com.netflix.client.config.IClientConfig;
9import edu.umd.cs.findbugs.annotations.SuppressWarnings;
10import java.util.List;
11import java.util.concurrent.ThreadLocalRandom;
12
13public class RandomRule extends AbstractLoadBalancerRule {
14 public RandomRule() {
15 }
16
17 @SuppressWarnings({"RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE"})
18 public Server choose(ILoadBalancer lb, Object key) {
19 if (lb == null) {
20 return null;
21 } else {
22 Server server = null;
23 //线程是否被中断了
24 while(server == null) {
25 if (Thread.interrupted()) {
26 return null;
27 }
28
29 List<Server> upList = lb.getReachableServers();
30 List<Server> allList = lb.getAllServers();
31 //allList.size()有多少个server
32 int serverCount = allList.size();
33 if (serverCount == 0) {
34 return null;
35 }
36 //获取随机数,java.util.Random().nextInt(serverCount);
37 int index = this.chooseRandomInt(serverCount);
38 server = (Server)upList.get(index);
39 if (server == null) {
40 Thread.yield();
41 } else {
42 if (server.isAlive()) {
43 return server;
44 }
45
46 server = null;
47 Thread.yield();
48 }
49 }
50
51 return server;
52 }
53 }
54 //随机数
55 protected int chooseRandomInt(int serverCount) {
56 return ThreadLocalRandom.current().nextInt(serverCount);
57 }
58
59 public Server choose(Object key) {
60 return this.choose(this.getLoadBalancer(), key);
61 }
62
63 public void initWithNiwsConfig(IClientConfig clientConfig) {
64 }
65}
66
67
68