一、认识微服务
随着互联网行业的发展,对服务的要求也越来越高,服务架构也从单体架构逐渐演变为现在流行的微服务架构。这些架构之间有怎样的差别呢?
1.单体架构
单体架构:将业务的所有功能集中在一个项目中开发,打成一个包部署。
优点:
- 架构简单
- 部署成本低
缺点:
- 耦合度高(维护困难、升级困难)
2.分布式架构
分布式架构:根据业务功能对系统做拆分,每个业务功能模块作为独立项目开发,称为一个服务。
优点:
- 降低服务耦合
- 有利于服务升级和拓展
缺点:
- 服务调用关系错综复杂
分布式架构虽然降低了服务耦合,但是服务拆分时也有很多问题需要思考:
- 服务拆分的粒度如何界定?
- 服务之间如何调用?
- 服务的调用关系如何管理?
人们需要制定一套行之有效的标准来约束分布式架构。
3.微服务
微服务的架构特征:
- 单一职责:微服务拆分粒度更小,每一个服务都对应唯一的业务能力,做到单一职责
- 自治:团队独立、技术独立、数据独立,独立部署和交付
- 面向服务:服务提供统一标准的接口,与语言和技术无关
- 隔离性强:服务调用做好隔离、容错、降级,避免出现级联问题
微服务的上述特性其实是在给分布式架构制定一个标准,进一步降低服务之间的耦合度,提供服务的独立性和灵活性。做到高内聚,低耦合。
因此,可以认为微服务是一种经过良好架构设计的分布式架构方案 。
但方案该怎么落地?选用什么样的技术栈?全球的互联网公司都在积极尝试自己的微服务落地方案。
其中在Java领域最引人注目的就是SpringCloud
提供的方案了。
4.微服务技术栈对比
SpringCloud是目前国内使用最广泛的微服务框架。官网地址:https://spring.io/projects/spring-cloud。
SpringCloud集成了各种微服务功能组件,并基于SpringBoot实现了这些组件的自动装配,从而提供了良好的开箱即用体验。
其中常见的组件包括:
6.版本对应关系
SpringCloud底层是依赖于SpringBoot的,并且有版本的兼容关系。
我们课堂学习的版本是 Hoxton.SR10
,因此对应的SpringBoot版本是2.3.x
版本。
7.总结
单体架构:简单方便,高度耦合,扩展性差,适合小型项目。例如:学生管理系统
分布式架构:松耦合,扩展性好,但架构复杂,难度大。适合大型互联网项目,例如:京东、淘宝
微服务:一种良好的分布式架构方案
优点:拆分粒度更小、服务更独立、耦合度更低
缺点:架构非常复杂,运维、监控、部署难度提高
SpringCloud是微服务架构的一站式解决方案,集成了各种优秀微服务功能组件
二、服务拆分和远程调用
任何分布式架构都离不开服务的拆分,微服务也是一样。
1.服务拆分原则
微服务拆分时要遵循以下几个原则:
- 不同微服务,不要重复开发相同业务
- 微服务数据独立,不要访问其它微服务的数据库
- 微服务可以将自己的业务暴露为接口,供其它微服务调用
2.服务拆分示例
Demo下载:https://pan.baidu.com/s/1SonaiGjDo1Sx1p_1CP33Bg?pwd=1234
以课前资料中的微服务cloud-demo为例,其结构如下:
项目名称 | 项目描述 |
---|---|
order-service | 订单微服务,负责订单相关业务 |
user-service | 用户微服务,负责用户相关业务 |
要求:
- 订单微服务和用户微服务都必须有各自的数据库,相互独立
- 订单服务和用户服务都对外暴露Restful的接口
- 订单服务如果需要查询用户信息,只能调用用户服务的Restful接口,不能查询用户数据库
3.服务功能测试
order-service
提供功能:根据订单id查询订单详情
访问测试:
user-service
提供功能:根据用户id查询用户信息
访问测试:
4.实现远程调用
订单服务如果需要查询用户信息,只能调用用户服务的 Restful 接口,不能查询用户数据库.
4.1 需求分析
根据订单id查询订单的同时,把订单所属的用户信息一起返回
远程调用的方式分析
因此,我们需要在order-service中 向user-service发起一个http的请求,调用http://localhost:8081/user/{userId}这个接口。
大概的步骤是这样的:
- 注册一个
RestTemplate
的实例到Spring容器 - 修改order-service服务中的OrderService类中的queryOrderById方法,根据Order对象中的userId查询User
- 将查询的User填充到Order对象,一起返回
4.2 注册RestTemplate
首先,我们在order-service服务中的OrderApplication启动类中,注册RestTemplate实例。
@Bean
public RestTemplate restTemplate(){
return new RestTemplate();
}
java
4.3 实现远程调用
修改order-service服务中的cn.itcast.order.service包下的OrderService类中的queryOrderById方法。
@Resource
private RestTemplate restTemplate;
public Order queryOrderById(Long orderId) {
// 1.查询订单
Order order = orderMapper.findById(orderId);
// 2.使用restTemplate实现远程调用
// 2.1指定请求url
String url = "http://localhost:8081/user/" + order.getUserId();
// 2.2发送http请求获取数据
User user = restTemplate.getForObject(url, User.class);
// 3.将获取到的用户信息封装进order对象
order.setUser(user);
// 4.返回
return order;
}
java
在上面代码的 url 中,我们可以发现调用服务的地址采用硬编码,这在后续的开发中肯定是不理想的,这就需要服务注册中心(Eureka)来帮我们解决这个事情。
5.提供者与消费者
在服务调用关系中,会有两个不同的角色。
服务提供者:一次业务中,被其它微服务调用的服务。(提供接口给其它微服务)
服务消费者:一次业务中,调用其它微服务的服务。(调用其它微服务提供的接口)
但是,服务提供者与服务消费者的角色并不是绝对的,而是相对于业务而言。
如果服务A调用了服务B,而服务B又调用了服务C,服务B的角色是什么?
- 对于A调用B的业务而言:A是服务消费者,B是服务提供者
- 对于B调用C的业务而言:B是服务消费者,C是服务提供者
因此,服务B既可以是服务提供者,也可以是服务消费者。
三、Eureka注册中心
当一个项目中同时有多个微服务,如果出现微服务的地址变更,删除,那么原本消费者那端写死的服务地址就会失效,如果消费者想找一个服务,也是很难找 ,那么这时候就可以将服务注册到Eureka,并可以监控服务,消费者也是到Eureka找对应的服务,相当于多了一个中间人。
1.思考问题
相对于上篇的远程调用为例,假如我们的服务提供者user-service部署了多个实例,如图:
那么大家就需要思考以下几个问题:
order-service
在发起远程调用的时候,该如何得知user-service
实例的ip地址和端口?- 有多个
user-service
实例地址,order-service
调用时该如何选择? order-service
如何得知某个user-service
实例是否依然健康,是不是已经宕机?
2.Eureka的结构和作用
对于上面的问题都需要利用SpringCloud中的注册中心来解决,其中最广为人知的注册中心就是Eureka,其结构如下:
通过以上GIF动画了解到Eureka的运行流程之后我们再来回答上面提到的几个问题
问题1:
order-service
如何得知user-service
实例地址?user-service
服务实例启动后,将自己的信息注册到eureka-server
(Eureka服务端)。这个叫服务注册eureka-server
保存服务名称到服务实例地址列表的映射关系order-service
根据服务名称,拉取实例地址列表。这个叫服务发现或服务拉取
问题2:
order-service
如何从多个user-service
实例中选择具体的实例?order-service
从实例列表中利用负载均衡算法选中一个实例地址- 向该实例地址发起远程调用
问题3:
order-service
如何得知某个user-service
实例是否依然健康,是不是已经宕机?user-service
会每隔一段时间(默认30秒)向eureka-server
发起请求,报告自己状态,称为心跳- 当超过一定时间没有发送心跳时,
eureka-server
会认为微服务实例故障,将该实例从服务列表中剔除 order-service
拉取服务时,就能将故障实例排除了
注意:一个微服务,既可以是服务提供者,又可以是服务消费者,因此eureka将服务注册、服务发现等功能统一封装到了eureka-client端
因此,接下来我们动手实践的步骤包括:
3.搭建注册中心
基本流程:
- 引入eureka-server依赖
- 添加@EnableEurekaServer注解
- 在application.yml中配置eureka地址
3.1 搭建 eureka-server 服务端
在
cloud-demo
父工程下,创建一个子模块创建一个Maven工程填写服务信息
3.2 引入Eureka服务端依赖
引入
eureka
依赖(这里引入的是Eureka服务端的依赖)<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-eureka-server</artifactId> </dependency> xml
3.3 编写启动类
编写启动类并加上
@EnableEurekaServer
注解package cn.itcast.eureka; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cloud.netflix.eureka.server.EnableEurekaServer; /** * @Author Vz_Cat * Created with IntelliJ IDEA. * Created on 2022-05-29 14:17 * Description:Eureka注册中心启动类 */ @SpringBootApplication @EnableEurekaServer //开启 eureka 的注册中心功能 public class EurekaApplication { public static void main(String[] args) { SpringApplication.run(EurekaApplication.class,args); } } java
3.4 编写配置文件
编写配置文件
application.yml
server: port: 10086 spring: application: name: eurekaserver eureka: client: service-url: defaultZone: http://127.0.0.1:10086/eureka yml
其中
default-zone
是因为前面配置类开启了注册中心所需要配置的 eureka 的地址信息,因为 eureka 本身也是一个微服务,这里也要将自己注册进来,当后面 eureka 集群时,这里就可以填写多个,使用 “,” 隔开。
3.5 启动服务
启动服务进行测试
启动完成后访问:http://localhost:10086/,出现以下界面就代表搭建成功了!
4.服务注册
基本流程:
- 引入eureka-client依赖
- 在application.yml中配置eureka地址
4.1 引入依赖
在
user-service
的pom文件中,引入下面的eureka-client
依赖(这里引入的是Eureka客户端的依赖)<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId> </dependency> xml
4.2 修改配置文件
在
user-service
中,修改application.yml
文件,添加服务名称、eureka
地址server: port: 8081 spring: application: name: userservice datasource: url: jdbc:mysql://localhost:3306/cloud_user?useSSL=false username: root password: 132537 driver-class-name: com.mysql.jdbc.Driver mybatis: type-aliases-package: cn.itcast.user.pojo configuration: map-underscore-to-camel-case: true logging: level: cn.itcast: debug pattern: dateformat: MM-dd HH:mm:ss:SSS eureka: client: service-url: defaultZone: http://127.0.0.1:10086/eureka yml
4.3 启动多个user-service实例
为了演示一个服务有多个实例的场景,我们添加一个SpringBoot的启动配置,再启动一个user-service。
首先,复制原来的
user-service
启动配置然后,在弹出的窗口中,填写信息
启动新建的
user-service
示例查看
eureka-server
管理页面
5.服务发现
基本流程:
- 引入
eureka-client
依赖- 在
application.yml
中配置eureka地址- 给
RestTemplate
添加@LoadBalanced
注解- 用服务提供者的服务名称远程调用
5.1 引入依赖
之前说过,服务发现、服务注册统一都封装在eureka-client依赖,因此这一步与服务注册时一致。
在
order-service
的pom文件中,引入下面的eureka-client
依赖<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId> </dependency> xml
5.2 修改配置文件
服务发现也需要知道eureka地址,因此第二步与服务注册一致,都是配置eureka信息
在order-service中,修改application.yml文件,添加服务名称、eureka地址
server: port: 8080 spring: application: name: orderservice datasource: url: jdbc:mysql://localhost:3306/cloud_order?useSSL=false username: root password: 132537 driver-class-name: com.mysql.jdbc.Driver mybatis: type-aliases-package: cn.itcast.user.pojo configuration: map-underscore-to-camel-case: true logging: level: cn.itcast: debug pattern: dateformat: MM-dd HH:mm:ss:SSS eureka: client: service-url: defaultZone: http://127.0.0.1:10086/eureka yml
5.3 服务拉取和负载均衡
最后,我们要去eureka-server中拉取user-service服务的实例列表,并且实现负载均衡。
不过这些动作不用我们去做,只需要添加一些注解即可。
在
order-service
的OrderApplication
中,给RestTemplate
这个Bean添加一个@LoadBalanced
注解:@Bean @LoadBalanced public RestTemplate restTemplate(){ return new RestTemplate(); } java
修改
order-service
服务中的OrderService
类中的queryOrderById
方法。修改访问的url路径,用服务名代替ip、端口:public Order queryOrderById(Long orderId) { // 1.查询订单 Order order = orderMapper.findById(orderId); // 2.使用restTemplate实现远程调用 // 2.1指定请求url String url = "http://userservice/user/" + order.getUserId(); // 2.2发送http请求获取数据 User user = restTemplate.getForObject(url, User.class); // 3.将获取到的用户信息封装进order对象 order.setUser(user); // 4.返回 return order; } java
Spring会自动帮助我们从eureka-server端,根据userservice这个服务名称,获取实例列表,而后完成负载均衡
四、Ribbon负载均衡
上一节中,我们添加了
@LoadBalanced
注解,即可实现负载均衡功能,这是什么原理呢?
1.负载均衡原理
SpringCloud
底层其实是利用了一个名为Ribbon
的组件,来实现负载均衡功能的。
那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢?
2.详细执行流程
SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。用一幅图来总结一下
基本流程如下:
- 拦截我们的
RestTemplate
请求http://userservice/user/1 RibbonLoadBalancerClient
会从请求url中获取服务名称,也就是user-service
DynamicServerListLoadBalancer
根据user-service
到eureka
拉取服务列表eureka
返回列表,localhost:8081
、localhost:8082
IRule
利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
RibbonLoadBalancerClient
修改请求地址,用localhost:8081
替代userservice
,得到http://localhost:8081/user/1,发起真实请求
3.负载均衡策略
3.1 负载均衡关系图
负载均衡的规则都定义在 IRule 接口中,而 IRule 有很多不同的实现类
不同规则的含义如下:
内置负载均衡规则类 | 规则描述 |
---|---|
RoundRobinRule | 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 |
AvailabilityFilteringRule | 对以下两种服务器进行忽略: |
(1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 | |
(2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的..ActiveConnectionsLimit属性进行配置。 | |
WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 |
ZoneAvoidanceRule | 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 |
BestAvailableRule | 忽略那些短路的服务器,并选择并发数较低的服务器。 |
RandomRule | 随机选择一个可用的服务器。 |
RetryRule | 重试机制的选择逻辑 |
默认的实现就是ZoneAvoidanceRule,是一种轮询方案
3.2 自定义负载均衡策略
通过定义IRule实现可以修改负载均衡规则,有两种方式:
代码方式:在order-service中的OrderApplication类中,定义一个新的IRule(全局生效)
@Bean public IRule randomRule(){ return new RandomRule(); } java
配置文件方式:在order-service的application.yml文件中,添加新的配置也可以修改规则(指定生效)
userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务 ribbon: NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则 yml
注意,一般用默认的负载均衡规则,不做修改。
4.饥饿加载
当我们启动 orderservice,第一次访问时,时间消耗会大很多,这是因为 Ribbon 懒加载的机制。
而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:
ribbon:
eager-load:
enabled: true
clients: userservice # 项目启动时直接去拉取userservice的集群,多个用","隔开
yml
五、Nacos注册中心
Nacos是阿里巴巴的产品,现在是SpringCloud中的一个组件。相比Eureka功能更加丰富,在国内受欢迎程度较高
1.安装Nacos
本次安装是基于Windos下安装的,实际部署项目则需要安装到Linux系统下。
下载Nacos安装包并解压(解压到非中文路径下):nacos-server-1.4.1.zip
目录说明:
bin
:启动脚本conf
:配置文件
Nacos的默认端口号是
8848
,若需修改的话修改conf
文件夹下的application.properties
文件即可启动Nacos则是进入
bin
目录下打开cmd
命令控制台执行以下命令startup.cmd -m standalone sh
执行后的效果如下图
访问浏览器http://127.0.0.1:8848/nacos
默认的账号和密码都是
nacos
2.服务注册到nacos
Nacos是SpringCloudAlibaba的组件,而SpringCloudAlibaba也遵循SpringCloud中定义的服务注册、服务发现规范。因此使用Nacos和使用Eureka对于微服务来说,并没有太大区别。
主要差异在于:
- 依赖不同
- 服务地址不同
因此我们如果需要将Eureka转换为Nacos注册中心仅需更换依赖,修改配置文件即可!
基本实现流程:
- 引入nacos.discovery依赖
- 配置nacos地址spring.cloud.nacos.server-addr
2.1 引入依赖
注意:不要忘了注释掉eureka的依赖。
在cloud-demo父工程的pom文件中的
<dependencyManagement>
中引入SpringCloudAlibaba
的依赖:<dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-alibaba-dependencies</artifactId> <version>2.2.6.RELEASE</version> <type>pom</type> <scope>import</scope> </dependency> xml
然后在
user-service
和order-service
中的pom文件中引入nacos-discovery
依赖:<dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId> </dependency> xml
2.2 修改配置文件
注意:不要忘了注释掉eureka的地址
在
user-service
和order-service
的application.yml
中添加nacos地址spring: cloud: nacos: server-addr: localhost:8848 yml
2.3 重启服务
重启微服务后,登录nacos管理页面,可以看到微服务信息
3.服务分级存储模型
一个服务可以有多个实例,例如我们的user-service
,可以有:
- 127.0.0.1:8081
- 127.0.0.1:8082
- 127.0.0.1:8083
假如这些实例分布于全国各地的不同机房,例如:
- 127.0.0.1:8081,在上海机房
- 127.0.0.1:8082,在上海机房
- 127.0.0.1:8083,在杭州机房
Nacos就将同一机房内的实例,划分为一个集群。
也就是说,user-service
是服务,一个服务可以包含多个集群,如杭州、上海,每个集群下可以有多个实例,形成分级模型,如图:
微服务互相访问时,应该尽可能访问同集群实例,因为本地访问速度更快。当本集群内不可用时,才访问其它集群。例如:
杭州机房内的order-service
应该优先访问同机房的user-service
。
3.1 给user-service配置集群
修改
user-service
的application.yml
文件,添加集群配置spring: cloud: nacos: server-addr: localhost:8848 discovery: cluster-name: HZ # 集群名称 yml
重启两个
user-service
实例后,我们再去启动一个上海集群的实例-Dserver.port=8083 -Dspring.cloud.nacos.discovery.cluster-name=SH sh
查看
nacos
控制台
3.2 同集群优先的负载均衡
Ribbon的默认实现
ZoneAvoidanceRule
并不能实现根据同集群优先来实现负载均衡,我们把规则改成NacosRule
即可。我们是用orderservice
调用userservice
,所以在orderservice
配置规则。
给
order-service
配置集群信息spring: cloud: nacos: server-addr: localhost:8848 discovery: cluster-name: HZ # 集群名称 yml
修改负载均衡规则(两种方式都可以,这里我选择使用yml配置方式)
userservice: ribbon: NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule # 负载均衡规则 yml
NacosRule的规则是同集群之间随机调用,若同集群的实例全部挂掉,则调用别的集群的实例。
3.3 启动服务测试
现在我启动了四个服务,分别是:
- orderservice - HZ
- userservice - HZ
- userservice1 - HZ
- userservice2 - SH
然后我们分别访问:
- http://localhost:8080/order/101
- http://localhost:8080/order/102
- http://localhost:8080/order/103
- http://localhost:8080/order/104
- http://localhost:8080/order/105
在访问中我们发现,只有同在一个 HZ 集群下的
userservice
、userservice1
会被调用,并且是==随机==的。
我们试着把
userservice
、userservice2
停掉。依旧可以访问。
在 userservice3 控制台可以看到发出了一串的警告,因为 orderservice 本身是在 HZ 集群的,这波 HZ 集群没有了 userservice,就会去别的集群找。
4.权重配置
实际部署中会出现这样的场景:
- 服务器设备性能有差异,部分实例所在机器性能较好,另一些较差,我们希望性能好的机器承担更多的用户请求。但默认情况下 NacosRule 是同集群内随机挑选,不会考虑机器的性能问题。
- 因此,Nacos 提供了权重配置来控制访问频率,
0~1
之间,权重越大则访问频率越高,权重修改为 0,则该实例永远不会被访问。
在 Nacos 控制台,找到 user-service
的实例列表,点击编辑,即可修改权重。
在弹出的编辑窗口,修改权重
注意:如果权重修改为0,则该实例永远不会被访问
5.环境隔离
Nacos 提供了 namespace
来实现环境隔离功能。
- Nacos 中可以有多个 namespace
- namespace 下可以有 group、service 等
- 不同 namespace 之间相互隔离,例如不同 namespace 的服务互相不可见
5.1 创建namespace
默认情况下,所有service、data、group都在同一个namespace,名为
public
我们可以点击页面新增按钮,添加一个
namespace
然后,填写表单
就能在页面看到一个新的
namespace
5.2 配置namespace
给微服务配置
namespace
只能通过修改配置来实现。
例如,修改
order-service
的application.yml
文件spring: cloud: nacos: server-addr: localhost:8848 discovery: cluster-name: HZ namespace: 492a7d5d-237b-46a1-a99a-fa8e98e4b0f9 # 命名空间,填ID yml
重启
order-service
后,访问控制台,可以看到下面的结果public命名空间
dev命名空间
此时访问
order-service
,因为namespace
不同,会导致找不到userservice
,控制台会报错
总结:
- 每个namespace都有唯一id
- 服务设置namespace时要写id而不是名称
- 不同namespace下的服务互相不可见
6.Nacos与Eureka的区别
6.1 临时实例和非临时实例
Nacos的服务实例分为两种类型:
临时实例:如果实例宕机超过一定时间,会从服务列表剔除,默认的类型。
非临时实例:如果实例宕机,不会从服务列表剔除,也可以叫永久实例。
配置一个服务实例为永久实例:
spring:
cloud:
nacos:
discovery:
ephemeral: false # 设置为非临时实例
yml
6.2 Nacos的执行过程
Nacos和Eureka整体结构类似,服务注册、服务拉取、心跳等待,但是也存在一些差异
6.3 总结
Nacos
与eureka
的共同点- 都支持服务注册和服务拉取
- 都支持服务提供者心跳方式做健康检测
Nacos
与Eureka
的区别- Nacos支持服务端主动检测提供者状态:临时实例采用心跳模式,非临时实例采用主动检测模式
- 临时实例心跳不正常会被剔除,非临时实例则不会被剔除
- Nacos支持服务列表变更的消息推送模式,服务列表更新更及时
- Nacos集群默认采用AP方式,当集群中存在非临时实例时,采用CP模式;Eureka采用AP方式