网站导航
> 文档中心 > SpringCloud第一天

SpringCloud第一天

网友: 文档中心 2022-05-06 17:51:39

目录

一.了解什么是微服务架构

1 目标 了解系统架构的演变

1.1集中式架构(传统单一架构)

1.2 垂直拆分

1.3 分布式服务

1.4 服务治理架构（SOA）

1.5 微服务

1.6 小结

2 目标 了解微服务的架构理念

3 目标 了解微服务架构的特点

4 目标 了解服务间的调用方式

4.1RPC和HTTP

4.2 Http客户端工具

4.3 Spring的RestTemplate

5 目标 快速搭建服务调用工程(基于RestTemplate远程调用 )

5.1搭建父工程

5.2 搭建服务提供者

pom引入依赖

在user-service 中的resource目录中添加一个application.yml属性文件

在user-service的com.itheima.sh.user包中新建一个启动类：

在user-service的com.itheima.sh.user.pojo包中新建一个实体类：

在user-service的com.itheima.sh.user.mapper包中新建一个mapper:

在user-service的com.itheima.sh.user.service包中新建一个Service：

在user-service的com.itheima.sh.user.controller包中新建一个对外查询的接口：

5.3 搭建服务调用者

右键父工程创建消费者 consumer-serivce maven工程

pom引入依赖

添加 application.yml

consumer-service 创建启动类，并在启动类里注册一个RestTemplate的实例

consumer-service 创建控制类

启动测试

5.4小结

二  理解SpringCloud基础架构

1 目标 SpringCloud简介

2 目标 SpringCloud版本

3 目标 了解SpringCloud的概念、

三  注册中心 Eureka

1 目标 了解Eureka注册中心的作用

2 目标 Eureka快速入门

2.1 搭建EurekaServer

2.2 服务注册

2.3 服务发现

3 目标Eureka架构原理

4 目标Eureka高级

4.1 EurekaServer基础架构

4.2 EurekaServer集群架构  (服务端配置_高可用)

4.3 Eureka客户端

4.4 eureka工作原理小结

四 负载均衡 Ribbon

4.1 负载均衡

4.2服务提供端配置

4.3 服务客户端开启负载均衡

4.4请求链路分析

4.5 源码解读

4.6 负载均衡策略

4.6.1 源码解读

4.6.2 IRule接口

4.6.3源码流程图

4.7饥饿加载

一.了解什么是微服务架构

1 目标 了解系统架构的演变

随着互联网的发展，网站应用的规模不断扩大。需求的激增，带来的是技术上的压力。系统架构也因此也不断的演进、升级、迭代。从单一应用，到垂直拆分，到分布式服务，到SOA，以及现在火热的微服务架构，还有在Google带领下来势汹涌的Service Mesh。我们到底是该乘坐微服务的船只驶向远方，还是偏安一隅得过且过？所以我们今天就回顾历史，看一看系统架构演变的历程；把握现在，学习现在最火的技术架构；

1.1集中式架构(传统单一架构)

当网站流量很小时，只需一个应用，将所有功能都部署在一起，以减少部署节点和成本。此时，用于简化增删改查工作量的数据访问框架(ORM)是影响项目开发的关键。

存在的问题：

  • 代码耦合，开发维护困难

  • 无法针对不同模块进行针对性优化

  • 无法水平扩展

  • 单点容错率低，并发能力

1.2 垂直拆分

当访问量逐渐增大，单一应用无法满足需求，此时为了应对更高的并发和业务需求，我们根据业务功能对系统进行拆分：

优点：

  • 系统拆分实现了流量分担，解决了并发问题

  • 可以针对不同模块进行优化

  • 方便水平扩展，负载均衡，容错率提高

缺点：

  • 系统间相互独立，会有很多重复开发工作，影响开发效率

1.3 分布式服务

当垂直应用越来越多，应用之间交互不可避免，将核心业务抽取出来，作为独立的服务，逐渐形成稳定的服务中心，使前端应用能更快速的响应多变的市场需求。此时，用于提高业务复用及整合的分布式调用是关键。

优点：

  • 将基础服务进行了抽取，系统间相互调用，提高了代码复用和开发效率

缺点：

  • 系统间耦合度变高，调用关系错综复杂，难以维护

1.4 服务治理架构（SOA）

SOA ：面向服务的架构

当服务越来越多，容量的评估，小服务资源的浪费等问题逐渐显现，此时需增加一个调度中心基于访问压力实时管理集群容量，提高集群利用率。此时，用于提高机器利用率的资源调度和治理中心(SOA)是关键

以前出现了什么问题？

  • 服务越来越多，需要管理每个服务的地址

  • 调用关系错综复杂，难以理清依赖关系

  • 服务过多，服务状态难以管理，无法根据服务情况动态管理

服务治理要做什么？

  • 服务注册中心，实现服务自动注册和发现，无需人为记录服务地址

  • 服务自动订阅，服务列表自动推送，服务调用透明化，无需关心依赖关系

  • 动态监控服务状态监控报告，人为控制服务状态

缺点：

  • 服务间会有依赖关系，一旦某个环节出错会影响较大

  • 服务关系复杂，运维、测试部署困难，不符合DevOps思想

1.5 微服务

前面说的SOA，英文翻译过来是面向服务。微服务，似乎也是服务，都是对系统进行拆分。因此两者非常容易混淆，但其实缺有一些差别：

微服务的特点：

  • 单一职责：微服务中每一个服务都对应唯一的业务能力，做到单一职责

  • 微：微服务的服务拆分粒度很小，例如一个用户管理就可以作为一个服务。每个服务虽小，但“五脏俱全”。

  • 面向服务：面向服务是说每个服务都要对外暴露Rest风格服务接口API。并不关心服务的技术实现，做到与平台和语言无关，也不限定用什么技术实现，只要提供Rest的接口即可。

  • 自治：自治是说服务间互相独立，互不干扰

    • 团队独立：每个服务都是一个独立的开发团队，人数不能过多。

    • 技术独立：因为是面向服务，提供Rest接口，使用什么技术没有别人干涉

    • 前后端分离：采用前后端分离开发，提供统一Rest接口，后端不用再为PC、移动段开发不同接口

    • 数据库分离：每个服务都使用自己的数据源

    • 部署独立，服务间虽然有调用，但要做到服务重启不影响其它服务。有利于持续集成和持续交付。每个服务都是独立的组件，可复用，可替换，降低耦合，易维护

独立的数据库

独立运行

独立部署

 微服务结构图：

1.6 小结

2 目标 了解微服务的架构理念

微服务（Microservices）是一种架构风格，一个大型复杂软件应用由一个或多个微服务组成。系统中的各个微服务可被独立部署，各个微服务之间是松耦合的。每个微服务仅关注于完成一件任务并很好地完成该任务。在所有情况下，每个任务代表着一个小的业务能力

3 目标 了解微服务架构的特点

单一职责:  只负责固定的业务
微:  服务拆分的粒度小,不过服务中包含对应业务的controller service dao
面向服务: 每个服务都对外提供 rest风格api接口
自治:
    团队独立
    技术独立
    前后端分离
    数据库独立
    部署独立

4 目标 了解服务间的调用方式

4.1RPC和HTTP

无论是微服务还是SOA，都面临着服务间的远程调用。那么服务间的远程调用方式有哪些呢？

常见的远程调用方式有以下2种：

  • RPC：Remote Produce Call远程过程调用，类似的还有RMI（remote method invoke）。自定义数据格式，基于原生TCP通信，速度快，效率高。早期的webservice，现在热门的dubbo，都是RPC的典型代表.

  • Http：http其实是一种网络传输协议，基于TCP，规定了数据传输的格式。现在客户端浏览器与服务端通信基本都是采用Http协议，也可以用来进行远程服务调用。缺点是消息封装臃肿，优势是对服务的提供和调用方没有任何技术限定，自由灵活，更符合微服务理念。

    现在热门的Rest风格，就可以通过http协议来实现。

如果你们公司全部采用Java技术栈，那么使用Dubbo作为微服务架构是一个不错的选择。

相反，如果公司的技术栈多样化，而且你更青睐Spring家族，那么SpringCloud搭建微服务是不二之选。在我们的项目中，我们会选择SpringCloud套件，因此我们会使用Http方式来实现服务间调用。

4.2 Http客户端工具

既然微服务选择了Http，那么我们就需要考虑自己来实现对请求和响应的处理。不过开源世界已经有很多的http客户端工具，能够帮助我们做这些事情，例如：

  • HttpClient

  • OKHttp

  • URLConnection

4.3 Spring的RestTemplate

Spring提供了一个RestTemplate模板工具类，对基于Http的客户端进行了封装，并且实现了对象与json的序列化和反序列化，非常方便。RestTemplate并没有限定Http的客户端类型，而是进行了抽象，目前常用的3种都有支持：

  • HttpClient

  • OkHttp

  • JDK原生的URLConnection（默认的）

接下来，我们就来测试下RestTemplate的使用。

5 目标 快速搭建服务调用工程(基于RestTemplate远程调用 )

既然RestTemplate的目的是实现远程调用，那么就需要有一个服务的提供者，和一个服务的调用者，两者必须是独立运行的服务。

但是为了方便项目的学习，我们会创建一个聚合项目，然后把服务的提供者、调用者作为其中的两个模块。

5.1搭建父工程

引入依赖

    4.0.0    org.example    cloud-demo    1.0-SNAPSHOT     user-service consumer-service eureka-server            pom         org.springframework.boot spring-boot-starter-parent 2.3.2.RELEASE          UTF-8 UTF-8 1.8 Hoxton.SR8 2.2.1.RELEASE 5.1.47                     org.springframework.cloud  spring-cloud-dependencies  ${spring-cloud.version}  pom  import                 mysql  mysql-connector-java  ${mysql.version}                 org.mybatis.spring.boot  mybatis-spring-boot-starter  2.1.1                    org.projectlombok     lombok

5.2 搭建服务提供者

右键父工程创建提供者 user-serivce maven工程

pom引入依赖

            cloud-demo        org.example        1.0-SNAPSHOT        4.0.0    user-service                                org.springframework.boot            spring-boot-starter-web                            mysql            mysql-connector-java                                    org.mybatis.spring.boot            mybatis-spring-boot-starter                                                    org.springframework.boot                spring-boot-maven-plugin                       

在user-service 中的resource目录中添加一个application.yml属性文件

server:  port: 8081spring:  datasource:    url: jdbc:mysql://192.168.200.129:3306/cloud_user    username: root    password: root    driver-class-name: com.mysql.jdbc.Driver  application:    name: user-servicemybatis:  type-aliases-package: com.itheima.user.pojo  configuration:    map-underscore-to-camel-case: truelogging:  level:    com.itheima: debug

在user-service的com.itheima.sh.user包中新建一个启动类：

package com.itheima.sh.user;import org.springframework.boot.SpringApplication;import org.springframework.boot.autoconfigure.SpringBootApplication;import org.mybatis.spring.annotation.MapperScan;@MapperScan("com.itheima.sh.user.mapper")@SpringBootApplicationpublic class UserApplication {    public static void main(String[] args) {        SpringApplication.run(UserApplication.class, args);    }}

在user-service的com.itheima.sh.user.pojo包中新建一个实体类：

package com.itheima.sh.user.pojo;import lombok.Data;import java.util.Date;/** * @Description: * @Version: V1.0 */@Datapublic class User {    private String username;    private String password;    private String phone;    private String email;    private Date created;    private Date updated;    private String sourceType;    private String nickName;    private String name;    private String status;    private String headPic;    private String qq;    private String isMobileCheck;    private String isEmailCheck;    private String sex;    private Integer userLevel;    private Integer points;    private Integer experienceValue;    private Date birthday;    private Date lastLoginTime;    private static final long serialVersionUID = 1L;}

在user-service的com.itheima.sh.user.mapper包中新建一个mapper:

package com.itheima.sh.user.mapper;import com.itheima.sh.user.pojo.User;import org.apache.ibatis.annotations.Param;import org.apache.ibatis.annotations.Select;public interface UserMapper {    @Select("select * from tb_user where username = #{username}")    User findById(@Param("username") String username);}

在user-service的com.itheima.sh.user.service包中新建一个Service：

package com.itheima.sh.user.service;import com.itheima.sh.user.mapper.UserMapper;import com.itheima.sh.user.pojo.User;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.stereotype.Service;@Servicepublic class UserService {    @Autowired    private UserMapper userMapper;    public User queryById(String username) { return userMapper.findById(username);    }}

在user-service的com.itheima.sh.user.controller包中新建一个对外查询的接口：

package com.itheima.sh.user.controller;import com.itheima.sh.user.pojo.User;import com.itheima.sh.user.service.UserService;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.PathVariable;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RestController;@RestController@RequestMapping("user")public class UserController {    @Autowired    private UserService userService;    @GetMapping("/{id}")    public User queryById(@PathVariable("id") String username) { return userService.queryById(username);    }}

项目结构：

启动项目 浏览器测试:启动项目，访问接口：http://localhost:8081/user/itcast

5.3 搭建服务调用者

右键父工程创建消费者 consumer-serivce maven工程

pom引入依赖

     cloud-demo org.example 1.0-SNAPSHOT        4.0.0    consumer-service          org.springframework.boot     spring-boot-starter-web

添加 application.yml

server:port: 8080

consumer-service 创建启动类，并在启动类里注册一个RestTemplate的实例

package com.itheima.sh;import org.springframework.boot.SpringApplication;import org.springframework.boot.autoconfigure.SpringBootApplication;import org.springframework.cloud.client.discovery.EnableDiscoveryClient;import org.springframework.context.annotation.Bean;import org.springframework.web.client.RestTemplate;@SpringBootApplicationpublic class ConsumerApplication {// 注册RestTemplate的对象到Spring的容器中    @Bean    public RestTemplate restTemplate() { return new RestTemplate();    }    public static void main(String[] args) { SpringApplication.run(ConsumerApplication.class, args);    }}

consumer-service 创建控制类

@RestController@RequestMapping("consumer")public class ConsumerController {    @Autowired    RestTemplate restTemplate;    @GetMapping("{id}")    public Map queryById(@PathVariable String id){// 根据id 请求用户微服务中的数据return restTemplate.getForObject("http://localhost:8081/user/"+id,Map.class);    }}

RestTemplate会向http://localhost:8081/user/1地址发起请求，并且得到响应的JSON数据。然后会将JSON数据反序列化为Map类型。

启动测试

访问：http://localhost:8080/consumer/itcast

一个简单的远程服务调用案例就实现了，调用链路如下：

5.4小结

简单回顾一下，刚才我们写了什么：

user-service：对外提供了查询用户的接口

consumer：通过RestTemplate访问http://locahost:8081/user/{id}接口，查询用户数据

分析存在什么问题？

  • 在consumer中，我们把url地址硬编码到了代码中，不方便后期维护

  • consumer需要记忆user_service的地址，如果出现变更，可能得不到通知，地址将失效

  • consumer不清楚user_service的状态，服务宕机也不知道

  • user_service只有1台服务，不具备高可用性

  • 即便user_service形成集群，consumer还需自己实现负载均衡

其实上面说的问题，概括一下就是分布式服务必然要面临的问题：

  • 服务管理（注册中心）

    • 如何自动注册和发现

    • 如何实现状态监管

  • 服务如何实现负载均衡

  • 服务如何解决容灾问题

  • 服务如何实现统一配置

以上的问题，我们都将在SpringCloud中得到答案。

二  理解SpringCloud基础架构

微服务是一种架构方式，最终肯定需要技术架构去实施。

微服务的实现方式很多，但是最火的莫过于Spring Cloud了。为什么？

  • 后台硬：作为Spring家族的一员，有整个Spring全家桶靠山，背景十分强大。

  • 技术强：Spring作为Java领域的前辈，可以说是功力深厚。有强力的技术团队支撑，一般人还真比不了

  • 群众基础好：可以说大多数程序员的成长都伴随着Spring框架，试问：现在有几家公司开发不用Spring？SpringCloud与Spring的各个框架无缝整合，对大家来说一切都是熟悉的配方，熟悉的味道。

  • 使用方便：相信大家都体会到了SpringBoot给我们开发带来的便利，而SpringCloud完全支持SpringBoot的开发，用很少的配置就能完成微服务框架的搭建

1 目标 SpringCloud简介

SpringCloud是Spring旗下的项目之一，官网地址：https://spring.io/projects/spring-cloud

Spring最擅长的就是集成，把世界上最好的框架拿过来，集成到自己的项目中。

SpringCloud也是一样，它将现在非常流行的一些技术整合到一起，实现了诸如：配置管理，服务发现，智能路由，负载均衡，熔断器，控制总线，集群状态等等功能。其主要涉及的组件包括：

Netflix：

  • Eureka：注册中心 --> consul , zookeeper ，Nacos

  • Zuul：服务网关 --> spring cloud gateway

  • Ribbon：负载均衡

  • Feign：服务调用

  • Hystix：熔断器 —> Sentinel

中文官网：Spring Cloud中文网-官方文档中文版

2 目标 SpringCloud版本

SpringCloud的版本命名比较特殊，因为它不是一个组件，而是许多组件的集合，它的命名是以A到Z的为首字母的一些单词（其实是伦敦地铁站的名字）组成：

 我们在项目中，会是以Finchley的版本。

其中包含的组件，也都有各自的版本，如下表：

Component Edgware.SR4 Finchley.SR1 Finchley.BUILD-SNAPSHOT
spring-cloud-aws 1.2.3.RELEASE 2.0.0.RELEASE 2.0.1.BUILD-SNAPSHOT
spring-cloud-bus 1.3.3.RELEASE 2.0.0.RELEASE 2.0.1.BUILD-SNAPSHOT
spring-cloud-cli 1.4.1.RELEASE 2.0.0.RELEASE 2.0.1.BUILD-SNAPSHOT
spring-cloud-commons 1.3.4.RELEASE 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-contract 1.2.5.RELEASE 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-config 1.4.4.RELEASE 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-netflix 1.4.5.RELEASE 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-security 1.2.3.RELEASE 2.0.0.RELEASE 2.0.1.BUILD-SNAPSHOT
spring-cloud-cloudfoundry 1.1.2.RELEASE 2.0.0.RELEASE 2.0.1.BUILD-SNAPSHOT
spring-cloud-consul 1.3.4.RELEASE 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-sleuth 1.3.4.RELEASE 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-stream Ditmars.SR4 Elmhurst.SR1 Elmhurst.BUILD-SNAPSHOT
spring-cloud-zookeeper 1.2.2.RELEASE 2.0.0.RELEASE 2.0.1.BUILD-SNAPSHOT
spring-boot 1.5.14.RELEASE 2.0.4.RELEASE 2.0.4.BUILD-SNAPSHOT
spring-cloud-task 1.2.3.RELEASE 2.0.0.RELEASE 2.0.1.BUILD-SNAPSHOT
spring-cloud-vault 1.1.1.RELEASE 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-gateway 1.0.2.RELEASE 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-openfeign 2.0.1.RELEASE 2.0.2.BUILD-SNAPSHOT
spring-cloud-function 1.0.0.RELEASE 1.0.0.RELEASE 1.0.1.BUILD-SNAPSHOT

接下来，我们就一一学习SpringCloud中的重要组件。

3 目标 了解SpringCloud的概念、

一句话介绍SpringCloud: 
   是微服务架构的一站式解决方案，它基于spring强大的整合能力，将一些优秀的开源框架进行了封装。 
   
SpringCloud的版本说明
   是以伦敦地铁站命名
    springboot: 2.1.x
    springcloud:  Greenwich
    
面试题: SpringCloud和dubbo的对比
    dubbo: 
    专注于服务的治理:  服务调用  服务容错  服务负载均衡
    
    springcloud:
    是微服务架构的整个解决方案:
    服务调用  服务容错  服务负载均衡
    注册中心  网关   配置中心
    
面试题: SpringCloud和Springboot及微服务的关系
    微服务: 指的是一种架构设计思想 
    springcloud: 是微服务架构的解决方案
    springboot： 快速构建项目的脚手架
    
    springcloud和springboot:  springcloud基于springboot构建了各种starter起步依赖

三  注册中心 Eureka

1 目标 了解Eureka注册中心的作用

 Eureka注册中心，提供了服务注册 、 服务发现的功能，而且能对服务状态进行监控

2 目标 Eureka快速入门

2.1 搭建EurekaServer

接下来我们创建一个项目eureka-server，启动一个EurekaServer：

引入eureka服务端依赖

     cloud-demo org.example 1.0-SNAPSHOT        4.0.0    eureka-server          org.springframework.cloud     spring-cloud-starter-netflix-eureka-server

添加 application.yml配置

server:  port: 10086 # 注册中心端口spring:  application:    name: eureka-servereureka:  client:    service-url:      defaultZone: http://localhost:10086/eureka/    register-with-eureka: false # 默认: 会将自己的地址注册到注册中心    fetch-registry: false # 默认: 会从注册中心拉取服务信息

编写启动类

package com.itheima.sh;import org.springframework.boot.SpringApplication;import org.springframework.boot.autoconfigure.SpringBootApplication;import org.springframework.cloud.netflix.eureka.server.EnableEurekaServer;@SpringBootApplication@EnableEurekaServer // 声明这个应用是一个EurekaServerpublic class EurekaServer {public static void main(String[] args) {SpringApplication.run(EurekaServer.class, args);}}

启动服务

并访问：http://127.0.0.1:10086

2.2 服务注册

注册服务：就是让服务提供者user-service把自己的信息注册到EurekaServer上，方便服务消费者去拉取。

(1) 引入pom依赖

在user-service中添加Eureka客户端依赖：

    org.springframework.cloud    spring-cloud-starter-netflix-eureka-client

(2) 配置EurekaServer端的地址

在配置文件中添加eureka 注册中心地址,起一个微服务名称

spring:  application:    name: user-serviceeureka:  client:    service-url:      defaultZone: http://localhost:10086/eureka,http://localhost:10087/eureka  instance:    ip-address: 127.0.0.1  # 指定当前实例的ip地址    prefer-ip-address: true  # 注册以我们设置的ip地址优先    instance-id: ${eureka.instance.ip-address}:${spring.application.name}:${server.port}

(3) 启动类加一个注解

@SpringBootApplication@MapperScan("com.itheima.user.mapper")@EnableDiscoveryClient // 这个注解比较通用public class UserApplication {    public static void main(String[] args) { SpringApplication.run(UserApplication.class, args);    }}

(4) 重启项目

访问Eureka监控页面查看，我们发现user_service服务已经注册成功了:

2.3 服务发现

consume-service从eureka中获取服务并完成调用

流程与服务提供者类似，只要知道eureka服务端地址即可：

  1. 引入eurekaClient依赖

  2. 配置eureka服务端地址

  3. 手动拉取服务提供者的地址

(1) 添加依赖

     org.springframework.cloud     spring-cloud-starter-netflix-eureka-client

(2) 修改配置

server:  port: 8080spring:  application:    name: consumer-service  # 应用名称eureka:  client:    service-url:  # EurekaServer地址      defaultZone: http://localhost:10086/eureka

(3) 服务拉取

修改ConsumerController代码

@RestController@RequestMapping("consumer")public class ConsumerController {    @Autowired    RestTemplate restTemplate;    @Autowired    DiscoveryClient discoveryClient;    @GetMapping("{id}")    public Map queryById(@PathVariable String id){ List instances = discoveryClient.getInstances("user-service"); if(instances!=null && !instances.isEmpty()){     ServiceInstance serviceInstance = instances.get(0);     String host = serviceInstance.getHost();     int port = serviceInstance.getPort();     // 根据id 请求用户微服务中的数据     return restTemplate.getForObject("http://"+host+":"+port+"/user/"+id,Map.class); } // 根据id 请求用户微服务中的数据 return null;    }}

 (4) debug的跟踪运行

生成的URL：

这里的ip是本机的局域网ip。

访问结果：

 

3 目标Eureka架构原理

renewal：续约

  • Eureka-Server：就是服务注册中心（可以是一个集群），对外暴露自己的地址。

  • 提供者：启动后向Eureka注册自己信息（地址，服务名称等），并且定期进行服务续约

  • 消费者：服务调用方，会定期去Eureka拉取服务列表，然后使用负载均衡算法选出一个服务进行调用。

  • 心跳(续约)：提供者定期通过http方式向Eureka刷新自己的状态

4 目标Eureka高级

接下来我们详细讲解Eureka的原理及配置

4.1 EurekaServer基础架构

Eureka架构中的三个核心角色：

  • 服务注册中心

    Eureka的服务端应用，提供服务注册和发现功能，就是刚刚我们建立的eureka-server

  • 服务提供者

    提供服务的应用，可以是SpringBoot应用，也可以是其它任意技术实现，只要对外提供的是Rest风格服务即可。本例中就是我们实现的user_service

  • 服务消费者

    消费应用从注册中心获取服务列表，从而得知每个服务方的信息，知道去哪里调用服务方。本例中就是我们实现的consumer

4.2 EurekaServer集群架构  (服务端配置_高可用)

Eureka Server即服务的注册中心，在刚才的案例中，我们只有一个EurekaServer，事实上EurekaServer也可以是一个集群，形成高可用的Eureka注册中心。

多个Eureka Server之间也会互相注册为服务，当服务提供者注册到Eureka Server集群中的某个节点时，该节点会把服务的信息同步给集群中的每个节点，从而实现高可用集群。因此，无论客户端访问到Eureka Server集群中的任意一个节点，都可以获取到完整的服务列表信息。

而作为客户端，需要把信息注册到每个Eureka中：

 

如果有三个Eureka，则每一个EurekaServer都需要注册到其它几个Eureka服务中，例如：有三个分别为10086、10087则：

  • 10086要注册到10087和10088上

  • 10087要注册到10086和10088上

  • 10088要注册到10086和10087上

动手搭建高可用的EurekaServer

我们假设要搭建两台EurekaServer的集群，端口分别为：10086和10087

(1) 修改原来的EurekaServer配置

#配置两台eureka  10086、10087 相互注册#即可搭建高可用的eureka集群server:  port: 10086 # 注册中心端口spring:  application:    name: eureka-servereureka:  client:    service-url:      defaultZone: http://localhost:10086/eureka/,http://localhost:10087/eureka/

(2) 在启动一台eureka服务

注意：idea中一个应用不能启动两次，我们需要重新配置一个启动器：

但是需要保证两个服务端口不同，因此要配置JVM参数，覆盖配置文件中的端口：

完成后如图：

然后启动即可。

(3) 启动测试

 

（）客户端注册服务到集群

因为EurekaServer不止一个，因此eureka的客户端配置服务端地址的时候，service-url参数需要变化。

你需要在user-service和consumer两个服务中修改eureka服务端地址：

eureka:  client:    service-url: # EurekaServer地址,多个地址以','隔开      defaultZone: http://127.0.0.1:10086/eureka,http://127.0.0.1:10087/eureka

4.3 Eureka客户端

服务提供者要向EurekaServer注册服务，并且完成服务续约等工作。

服务注册

服务提供者在启动时，会检测配置属性中的：eureka.client.register-with-erueka=true参数是否正确，事实上默认就是true。如果值确实为true，则会向EurekaServer发起一个Rest请求，并携带自己的元数据信息，Eureka Server会把这些信息保存到一个双层Map结构中。Map<String,Map>

  • 第一层Map的Key就是服务id，一般是配置中的spring.application.name属性

  • 第二层Map的key是服务的实例id。一般host+ serviceId + port，例如：locahost:user_service:8081

  • 值则是服务的实例对象，也就是说一个服务，可以同时启动多个不同实例，形成集群。

可以在EurekaServer工程中AbstractInstanceRegistry查看

4.3.1客户端配置_服务注册

user_service默认注册时使用的是主机名，如果我们想用ip进行注册，可以在user_service的application.yml添加配置：

eureka:  client:    service-url:      defaultZone: http://localhost:10086/eureka  instance:    ip-address: 127.0.0.1  # 指定当前实例的ip地址    prefer-ip-address: true  # 注册以我们设置的ip地址优先    instance-id: ${eureka.instance.ip-address}:${spring.application.name}:${server.port}

 4.3.2客户端配置_服务续约

 在注册服务完成以后，服务提供者会维持一个心跳（定时向EurekaServer发起Rest请求），告诉EurekaServer：“我还活着”。这个我们称为服务的续约（renewal）；

有两个重要参数可以修改服务续约的行为：

#服务注册成功后，会定时给注册中心发送心跳，  默认30s一次   如果超过90s没有发送 说明服务失效了eureka:  client:    service-url:      defaultZone: http://localhost:10086/eureka  instance:    ip-address: 127.0.0.1  # 指定当前实例的ip地址    prefer-ip-address: true  # 注册以我们设置的ip地址优先    instance-id: ${eureka.instance.ip-address}:${spring.application.name}:${server.port}    lease-renewal-interval-in-seconds: 2  # 每隔30S发送一次心跳    lease-expiration-duration-in-seconds: 5

  • lease-renewal-interval-in-seconds：服务续约(renew)的间隔，默认为30秒

  • lease-expiration-duration-in-seconds：服务失效时间，默认值90秒

 也就是说，默认情况下每隔30秒服务会向注册中心

发送一次心跳，证明自己还活着。如果超过90秒没有发送心跳，EurekaServer就会认为该服务宕机，可能会从服务列表中移除，这两个值在生产环境不要修改，默认即可。

 4.3.3客户端配置_服务拉取 (获取服务列表 )

当服务消费者启动是，会检测eureka.client.fetch-registry=true参数的值，如果为true，则会从Eureka Server服务的列表只读备份，然后缓存在本地。并且每隔30秒会重新获取并更新数据。我们可以通过下面的参数来修改：

eureka:  client:    registry-fetch-interval-seconds: 30

4.3.4客户端配置_服务下线

当服务进行正常关闭操作时，它会触发一个服务下线的REST请求给Eureka Server，告诉服务注册中心：“我要下线了”。服务中心接受到请求之后，将该服务置为下线状态。

4.3.5客户端配置_失效剔除

有时我们的服务可能由于内存溢出或网络故障等原因使得服务不能正常的工作，而服务注册中心并未收到“服务下线”的请求。相对于服务提供者的“服务续约”操作，服务注册中心在启动时会创建一个定时任务，默认每隔一段时间（默认为60秒）将当前清单中超时（默认为90秒）没有续约的服务剔除，这个操作被称为失效剔除。

可以通过eureka.server.eviction-interval-timer-in-ms参数对其进行修改，单位是毫秒。

1. 服务正常下线   会通知注册中心，注册中心立即将服务剔除列表2. 服务未按时发送心跳   注册中心每隔60s会扫描一次服务列表，发现服务失效的会 剔除出服务列表eureka:  server:    eviction-interval-timer-in-ms: 1000

4.3.5客户端配置_自我保护

我们关停一个服务，就会在Eureka面板看到一条警告：

这是触发了Eureka的自我保护机制。当服务未按时进行心跳续约时，Eureka会统计服务实例最近15分钟心跳续约的比例是否低于了85%。在生产环境下，因为网络延迟等原因，心跳失败实例的比例很有可能超标，但是此时就把服务剔除列表并不妥当，因为服务可能没有宕机。Eureka在这段时间内不会剔除任何服务实例，直到网络恢复正常。生产环境下这很有效，保证了大多数服务依然可用，不过也有可能获取到失败的服务实例，因此服务调用者必须做好服务的失败容错。

我们可以通过下面的配置来关停自我保护：

eureka:  server:    enable-self-preservation: false # 关闭自我保护模式（缺省为打开） 建议生产环境开启自我保护机制

4.4 eureka工作原理小结

  • 服务的注册和发现都是可控制的，可以关闭也可以开启。默认都是开启

  • 注册后需要心跳，心跳周期默认30秒一次，超过90秒没发送认为宕机

  • 服务拉取默认30秒拉取一次

  • Eureka每个60秒会剔除标记为宕机的服务

  • Eureka会有自我保护，当心跳失败比例超过阈值，那么开启自我保护，不再剔除服务。

  • Eureka高可用就是多台Eureka互相注册在对方上

四 负载均衡 Ribbon

Spring Cloud Ribbon是基于Netflix Ribbon实现的一套==客户端==负载均衡工具。Ribbon会自动帮助你基于某种规则（简单轮询、随机连接等），也可以实现自定义的负载均衡算法。

[Ribbon源码]  https://github.com/Netflix/Ribbon ##

4.1 负载均衡

  • 英文名称：Load Balance，微服务或分布式集群中常用的一种应用

  • 简单来说负载均衡就是将用户的请求ping平摊的分配到多个任务上，从而是系统达到HA（高可用）

  • 两种负载均衡：

    1. 集中式LB：偏硬件，服务的消费方和提供方之间使用独立的LB设施，由该设施负责把访问请求以某种策略转发至服务的提供方。

    2. 进程内LB：偏软件， 将LB逻辑集成到消费方，消费方从服务注册中心指导哪些地址可用，再自己选择一个合适的服务器。

1、什么是负载均衡？

负载均衡是微服务架构中必须使用的技术，通过负载均衡来实现系统的高可用、集群扩容等功能。负载均衡可通过硬件设备及软件来实现，硬件比如：F5、Array等，软件比如：LVS、Nginx等。

如下图是负载均衡的架构图：

用户请求先到达负载均衡器（也相当于一个服务），负载均衡器根据负载均衡算法将请求转发到微服务。负载均衡算法有：轮训、随机、加权轮训、加权随机、地址哈希等方法，负载均衡器维护一份服务列表，根据负载均衡算法将请求转发到相应的微服务上，所以负载均衡可以为微服务集群分担请求，降低系统的压力。

 2、什么是客户端负载均衡？

上图是服务端负载均衡，客户端负载均衡与服务端负载均衡的区别在于客户端要维护一份服务列表，Ribbon从Eureka Server获取服务列表，Ribbon根据负载均衡算法直接请求到具体的微服务，中间省去了负载均衡服务。

如下图是Ribbon负载均衡的流程图

1、在消费微服务中使用Ribbon实现负载均衡，Ribbon先从EurekaServer中获取服务列表。

2、Ribbon根据负载均衡的算法去调用微服务。

在刚才的案例中，我们启动了一个user_service，然后通过DiscoveryClient来获取服务实例信息，然后获取ip和端口来访问。

但是实际环境中，我们往往会开启很多个user_service的集群。此时我们获取的服务列表中就会有多个，到底该访问哪一个呢？

一般这种情况下我们就需要编写负载均衡算法，在多个实例列表中进行选择。

不过Eureka中已经帮我们集成了负载均衡组件：Ribbon，简单修改代码即可使用。

什么是Ribbon：

 

接下来，我们就来使用Ribbon实现负载均衡。

4.2服务提供端配置

首先我们启动两个user-service实例，一个8081，一个8082。启动方式参考之前的高可用eureka。

Eureka监控面板：

 

4.3 服务客户端开启负载均衡

接下来，消费者会拉取到两个user-service的实例，需要利用负载均衡算法，从中选择一个。

我们修改consumeer中的代码，实现负载均衡。

因为Eureka中已经集成了Ribbon，所以我们无需引入新的依赖。直接修改代码：

 （1）在consumeer的启动类中，RestTemplate的配置方法上添加@LoadBalanced注解：

package com.itheima.consumer;import org.springframework.boot.SpringApplication;import org.springframework.boot.autoconfigure.SpringBootApplication;import org.springframework.cloud.client.discovery.EnableDiscoveryClient;import org.springframework.cloud.client.loadbalancer.LoadBalanced;import org.springframework.context.annotation.Bean;import org.springframework.web.client.RestTemplate;@SpringBootApplication@EnableDiscoveryClientpublic class ConsumerApplication {    public static void main(String[] args) { SpringApplication.run(ConsumerApplication.class, args);    }    /**     * spring提供的http客户端     * @return     */    @Bean    @LoadBalanced // 开启负载均衡功能    RestTemplate restTemplate(){ return new RestTemplate();    }}

(2) 具体调用时 直接用服务名称调用

    @Autowired    RestTemplate restTemplate;    @GetMapping("{id}")    public Map queryById(@PathVariable String id){ // restTemplate开启负载均衡注解后   路径可以直接写服务名称 // ribbon组件会基于负载均衡算法，帮助我们选择一个服务进行调用return restTemplate.getForObject("http://user-service/user/"+id,Map.class);    }

测试调用: http://localhost:8080/consumer/3 查看结果实现负载均衡功能

默认使用规则: 轮询的算法

4.4请求链路分析

此时，用户请求的链路是这样的：

流程：

  1. 用户发送请求到consumer-service

  2. consumer-service根据服务id（user-service）去eureka拉取服务列表

  3. eureka返回服务列表信息到consumer-service，consumer缓存服务列表，这样下次请求就无需拉取了

  4. 利用Ribbon的负载均衡策略，从列表中选择一个服务实例

  5. 向选中的服务发送HTTP请求

4.5 源码解读

为什么我们只输入了service名称就可以访问了呢？之前还要获取ip和端口。

显然有人帮我们根据service名称，获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor，这个类会在对RestTemplate的请求进行拦截，然后从Eureka根据服务id获取服务列表，随后利用负载均衡算法得到真实的服务地址信息，替换服务id。

我们进行源码跟踪：

（1）LoadBalancerInterceptor

 

可以看到这里的intercept方法，拦截了用户的HttpRequest请求，然后做了几件事：

  • request.getURI()：获取请求uri，本例中就是 http://user-service/user/8

  • originalUri.getHost()：获取uri路径的主机名，其实就是服务id，user-service

  • this.loadBalancer.execute()：处理服务id，和用户请求。

这里的this.loadBalancer是LoadBalancerClient类型，我们继续跟入。

（2）LoadBalancerClient

继续跟入execute方法：

代码是这样的：

  • getLoadBalancer(serviceId)：根据服务id获取ILoadBalancer，而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来。

  • getServer(loadBalancer)：利用内置的负载均衡算法，从服务列表中选择一个。本例中，可以看到获取了8082端口的服务

放行后，再次访问并跟踪，发现获取的是8081：

 果然实现了负载均衡。

4.6 负载均衡策略

4.6.1 源码解读

在刚才的代码中，可以看到获取服务使通过一个getServer方法:

我们继续跟入：

 我们看看这个rule是谁：

这里的rule默认值是一个RoundRobinRule，看类的介绍：

 

 ==默认Ribbon的负载均衡策略是：轮询==

4.6.2 IRule接口

我们注意到，这个类其实是实现了接口IRule的，查看一下：

定义负载均衡的规则接口。

它有以下实现：

 

 SpringBoot也帮我们提供了修改负载均衡规则的配置入口：在消费者服务的配置文件上加

user-service:  ribbon:    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

格式是：{服务名称}.ribbon.NFLoadBalancerRuleClassName，值就是IRule的实现类。

IRule是一个接口，七大方法是其自带的落地实现类

  • RoundRobinRule：轮询（默认方法）

  • RandomRule：随机

 

  • AvailabilityFilteringRule：先过滤掉由于多次访问故障而处于断路器跳闸状态的服务，还有并发的连接数量超过阈值的服务，然后对剩余的服务进行轮询

  • WeightedResponseTimeRule：根据平均响应时间计算服务的权重。统计信息不足时会按照轮询，统计信息足够会按照响应的时间选择服务

  • RetryRule：正常时按照轮询选择服务，若过程中有服务出现故障，在轮询一定次数后依然故障，则会跳过故障的服务继续轮询。

 

  • BestAvailableRule：先过滤掉由于多次访问故障而处于断路器跳闸状态的服务，然后选择一个并发量最小的服务

  • ZoneAvoidanceRule：默认规则，符合判断server所在的区域的性能和server的可用性选择服务

4.6.3源码流程图

4.7饥饿加载

Ribbon默认是采用懒加载，即第一次访问时才会去创建负载均衡客户端。往往会出现超时。如果需要采用饥饿加载，即项目启动即创建，可以这样配置：在消费者服务的配置文件上加

ribbon:  eager-load:    enabled: true    clients: user-service    # 多个服务使用 "," 分割

 重启服务调用测试

坏心知识社区

网络标签：

相关问题