写点什么

🏆【Alibaba 微服务技术系列】「Dubbo3.0 技术专题」回顾 Dubbo2.x 的技术原理和功能实现及源码分析(温故而知新)

发布于: 20 小时前
🏆【Alibaba微服务技术系列】「Dubbo3.0技术专题」回顾Dubbo2.x的技术原理和功能实现及源码分析(温故而知新)

RPC 服务

什么叫 RPC?

RPC【Remote Procedure Call】是指远程过程调用,是一种进程间通信方式,他是一种技术的思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。


RPC 基本原理,RPC 两个核心模块:通讯,序列化


一次完整的 RPC 调用流程(同步调用,异步另说)如下:


  • 1)服务消费方(client)调用以本地调用方式调用服务;

  • 2)client stub 接收到调用后负责将方法、参数等组装成能够进行网络传输的消息体;

  • 3)client stub 找到服务地址,并将消息发送到服务端;

  • 4)server stub 收到消息后进行解码;

  • 5)server stub 根据解码结果调用本地的服务;

  • 6)本地服务执行并将结果返回给 server stub;

  • 7)server stub 将返回结果打包成消息并发送至消费方;

  • 8)client stub 接收到消息,并进行解码;

  • 9)服务消费方得到最终结果。


RPC 框架的目标就是要 2~8 这些步骤都封装起来,这些细节对用户来说是透明的,不可见的

netty 通信原理

Netty 是一个异步事件驱动的网络应用程序框架, 用于快速开发可维护的高性能协议服务器和客户端。它极大地简化并简化了 TCP 和 UDP 套接字服务器等网络编程。

BIO:(Blocking IO)

NIO (Non-Blocking IO)


  • Selector 一般称 为选择器 ,也可以翻译为 多路复用器,

  • Connect(连接就绪)、Accept(接受就绪)、Read(读就绪)、Write(写就绪)

Netty 基本原理:

Dubbo

基本简介

Apache Dubbo (incubating) 是一款高性能、轻量级的开源 Java RPC 框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。官网:http://dubbo.apache.org/

框架设计


  • config 配置层:对外配置接口,以 ServiceConfig, ReferenceConfig 为中心,可以直接初始化配置类,也可以通过 spring 解析配置生成配置类

  • proxy 服务代理层:服务接口透明代理,生成服务的客户端 Stub 和服务器端 Skeleton, 以 ServiceProxy 为中心,扩展接口为 ProxyFactory.

  • registry 注册中心层:封装服务地址的注册与发现,以服务 URL 为中心,扩展接口为 RegistryFactory, Registry, RegistryService

  • cluster 路由层:封装多个提供者的路由及负载均衡,并桥接注册中心,以 Invoker 为中心,扩展接口为 Cluster, Directory, Router, LoadBalance

  • monitor 监控层:RPC 调用次数和调用时间监控,以 Statistics 为中心,扩展接口为 MonitorFactory, Monitor, MonitorService

  • protocol 远程调用层:封装 RPC 调用,以 Invocation, Result 为中心,扩展接口为 Protocol, Invoker, Exporter

  • exchange 信息交换层:封装请求响应模式,同步转异步,以 Request, Response 为中心,扩展接口为 Exchanger, ExchangeChannel, ExchangeClient, ExchangeServer

  • transport 网络传输层:抽象 mina 和 netty 为统一接口,以 Message 为中心,扩展接口为 Channel, Transporter, Client, Server, Codec

  • serialize 数据序列化层:可复用的一些工具,扩展接口为 Serialization, ObjectInput, ObjectOutput, ThreadPool

启动解析、加载配置信息

服务暴露

服务引用

基本组成


  • 服务提供者(Provider):暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。

  • 服务消费者(Consumer): 调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己所需的服务,服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。

  • 注册中心(Registry):注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者

  • 监控中心(Monitor):服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心

调用关系说明

  • 服务容器负责启动,加载,运行服务提供者。

  • 服务提供者在启动时,向注册中心注册自己提供的服务。

  • 服务消费者在启动时,向注册中心订阅自己所需的服务。

  • 注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。

  • 服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。

  • 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。

环境搭建

windows-安装 zookeeper
  • 下载 zookeeper 网址 https://archive.apache.org/dist/zookeeper/zookeeper-3.4.13/

  • 解压 zookeeper 解压运行 zkServer.cmd ,初次运行会报错,没有 zoo.cfg 配置文件

  • 修改 zoo.cfg 配置文件 将 conf 下的 zoo_sample.cfg 复制一份改名为 zoo.cfg 即可。 注意几个重要位置: dataDir=./ 临时数据存储的目录(可写相对路径)clientPort=2181 zookeeper 的端口号 修改完成后再次启动 zookeeper

  • 使用 zkCli.cmd 测试 ls /:列出 zookeeper 根下保存的所有节点 create –e /atguigu 123:创建一个 atguigu 节点,值为 123 get /atguigu:获取/atguigu 节点的值

windows-安装 dubbo-admin 管理控制台
  • dubbo 本身并不是一个服务软件。它其实就是一个 jar 包能够帮你的 java 程序连接到 zookeeper,并利用 zookeeper 消费、提供服务。所以你不用在 Linux 上启动什么 dubbo 服务。

  • 但是为了让用户更好的管理监控众多的 dubbo 服务,官方提供了一个可视化的监控程序,不过这个监控即使不装也不影响使用。

  • 下载 dubbo-admin https://github.com/apache/incubator-dubbo-ops

  • 进入目录,修改 dubbo-admin 配置 修改 src\main\resources\application.properties 指定 zookeeper 地址

  • 打包 dubbo-admin mvn clean package -Dmaven.test.skip=true

  • 运行 dubbo-admin java -jar dubbo-admin-0.0.1-SNAPSHOT.jar 注意:【有可能控制台看着启动了,但是网页打不开,需要在控制台按下 ctrl+c 即可默认使用 root/root 登陆

Dubbo 配置

配置原则

  • JVM 启动 -D 参数优先,这样可以使用户在部署和启动时进行参数重写,比如在启动时需改变协议的端口。

  • XML 次之,如果在 XML 中有配置,则 dubbo.properties 中的相应配置项无效。

  • Properties 最后,相当于缺省值,只有 XML 没有配置时,dubbo.properties 的相应配置项才会生效,通常用于共享公共配置,比如应用名。

重试次数

  • 失败自动切换,当出现失败,重试其它服务器,但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。

重试次数配置如下:

<dubbo:service retries="2" />  或  <dubbo:reference retries="2" />  或  <dubbo:reference>    <dubbo:method  name="findFoo" retries="2" />  </dubbo:reference>
复制代码

超时时间

由于网络或服务端不可靠,会导致调用出现一种不确定的中间状态(超时)。为了避免超时导致客户端资源(线程)挂起耗尽,必须设置超时时间。

Dubbo 消费端

全局超时配置

<dubbo:consumer timeout="5000" />     指定接口以及特定方法超时配置  <dubbo:reference  interface="com.foo.BarService" timeout="2000">          <dubbo:method name="sayHello" timeout="3000"  />  </dubbo:reference>
复制代码

Dubbo 服务端

全局超时配置

<dubbo:provider timeout="5000" />     指定接口以及特定方法超时配置  <dubbo:provider  interface="com.foo.BarService" timeout="2000">          <dubbo:method name="sayHello" timeout="3000"  />  </dubbo:provider>  
复制代码

配置原则

dubbo 推荐在 Provider 上尽量多配置 Consumer 端属性


  1. 作服务的提供者,比服务使用方更清楚服务性能参数,如调用的超时时间,合理的重试次数,等等

  2. 在 Provider 配置后,Consumer 不配置则会使用 Provider 的配置值,即 Provider 配置可以作为 Consumer 的缺省值。否则,Consumer 会使用 Consumer 端的全局设置,这对于 Provider 不可控的,并且往往是不合理的

配置的覆盖规则:

  • 方法级配置别优于接口级别,即小 Scope 优先

  • Consumer 端配置 优于 Provider 配置 优于 全局配置,

  • 最后是 Dubbo Hard Code 的配置值(见配置文档)


版本号

当一个接口实现,出现不兼容升级时,可以用版本号过渡,版本号不同的服务相互间不引用。


  • 可以按照以下的步骤进行版本迁移:

  • 在低压力时间段,先升级一半提供者为新版本

  • 再将所有消费者升级为新版本

  • 然后将剩下的一半提供者升级为新版本

老版本服务提供者配置:

<dubbo:service interface="com.foo.BarService" version="1.0.0" />
复制代码

新版本服务提供者配置:

<dubbo:service interface="com.foo.BarService" version="2.0.0" />
复制代码

老版本服务消费者配置:

<dubbo:reference id="barService" interface="com.foo.BarService" version="1.0.0" />
复制代码

新版本服务消费者配置:

<dubbo:reference id="barService" interface="com.foo.BarService" version="2.0.0" />
复制代码

如果不需要区分版本,可以按照以下的方式配置:

<dubbo:reference id="barService" interface="com.foo.BarService" version="*" />
复制代码

高可用

zookeeper 宕机与 dubbo 直连

  • 现象:zookeeper 注册中心宕机,还可以消费 dubbo 暴露的服务。

  • 原因: 健壮性




  • 监控中心宕掉不影响使用,只是丢失部分采样数据

  • 数据库宕掉后,注册中心仍能通过缓存提供服务列表查询,但不能注册新服务

  • 注册中心对等集群,任意一台宕掉后,将自动切换到另一台

  • 注册中心全部宕掉后,服务提供者和服务消费者仍能通过本地缓存通讯

  • 服务提供者无状态,任意一台宕掉后,不影响使用

  • 服务提供者全部宕掉后,服务消费者应用将无法使用,并无限次重连等待服务提供者恢复

集群下 dubbo 负载均衡配置

在集群负载均衡时,Dubbo 提供了多种均衡策略,缺省为 random 随机调用。

负载均衡策略

Random LoadBalance

随机,按权重设置随机概率:在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。

RoundRobin LoadBalance

轮循,按公约后的权重设置轮循比率: 存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。

LeastActive LoadBalance

最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差,使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。

ConsistentHash LoadBalance

一致性 Hash,相同参数的请求总是发到同一提供者。


当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。算法参见:http://en.wikipedia.org/wiki/Consistent_hashing


缺省只对第一个参数 Hash,如果要修改,请配置<dubbo:parameter key="hash.arguments" value="0,1" />缺省用 160 份虚拟节点,如果要修改,请配置 <dubbo:parameter key="hash.nodes" value="320" />

整合 hystrix,服务熔断与降级处理

服务降级

什么是服务降级?

当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运作或高效运作。


可以通过服务降级功能临时屏蔽某个出错的非关键服务,并定义降级后的返回策略。

向注册中心写入动态配置覆盖规则:
RegistryFactory registryFactory = ExtensionLoader.getExtensionLoader(RegistryFactory.class).getAdaptiveExtension();Registry registry = registryFactory.getRegistry(URL.valueOf("zookeeper://10.20.153.10:2181"));registry.register(URL.valueOf("override://0.0.0.0/com.foo.BarService?category=configurators&dynamic=false&application=foo&mock=force:return+null"));
复制代码
其中:
  • mock=force:return+null 表示消费方对该服务的方法调用都直接返回 null 值,不发起远程调用。用来屏蔽不重要服务不可用时对调用方的影响。

  • 还可以改为 mock=fail:return+null 表示消费方对该服务的方法调用在失败后,再返回 null 值,不抛异常。用来容忍不重要服务不稳定时对调用方的影响。

集群容错

在集群调用失败时,Dubbo 提供了多种容错方案,缺省为 failover 重试。

集群容错模式

Failover Cluster

失败自动切换,当出现失败,重试其它服务器。通常用于读操作,但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。

重试次数配置如下:
<dubbo:service retries="2" /><dubbo:reference retries="2" /><dubbo:reference>  <dubbo:method name="findFoo" retries="2" /></dubbo:reference>
复制代码
Failfast fast

快速失败,只发起一次调用,失败立即报错。通常用于非幂等性的写操作,比如新增记录。

Failsafe Safe

失败安全,出现异常时,直接忽略。通常用于写入审计日志等操作。

Failback over

失败自动恢复,后台记录失败请求,定时重发。通常用于消息通知操作。

Forking Cluster

并行调用多个服务器,只要一个成功即返回。通常用于实时性要求较高的读操作,但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。

Broadcast Cluster

广播调用所有提供者,逐个调用,任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。

集群模式配置

按照以下示例在服务提供方和消费方配置集群模式


<dubbo:service cluster="failsafe" /><dubbo:reference cluster="failsafe" />
复制代码

整合 hystrix

Hystrix 旨在通过控制那些访问远程系统、服务和第三方库的节点,从而对延迟和故障提供更强大的容错能力。Hystrix 具备拥有回退机制和断路器功能的线程和信号隔离,请求缓存和请求打包,以及监控和配置等功能

置 spring-cloud-starter-netflix-hystrix

spring boot 官方提供了对 hystrix 的集成,直接在 pom.xml 里加入依赖:


<dependency>   <groupId>org.springframework.cloud</groupId>   <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>   <version>1.4.4.RELEASE</version></dependency>
复制代码


然后在 Application 类上增加 @EnableHystrix 来启用 hystrix starter:


@SpringBootApplication@EnableHystrixpublic class ProviderApplication {
复制代码

配置 Provider 端

在 Dubbo 的 Provider 上增加 @HystrixCommand 配置,这样子调用就会经过 Hystrix 代理。


@Service(version = "1.0.0")public class HelloServiceImpl implements HelloService {    @HystrixCommand(commandProperties = {     @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),     @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "2000") })    @Override    public String sayHello(String name) {        // System.out.println("async provider received: " + name);        // return "annotation: hello, " + name;        throw new RuntimeException("Exception to show hystrix enabled.");    }}
复制代码

配置 Consumer 端

对于 Consumer 端,则可以增加一层 method 调用,并在 method 上配置 @HystrixCommand。当调用出错时,会走到 fallbackMethod = "reliable"的调用里。


@Reference(version = "1.0.0")private HelloService demoService;
@HystrixCommand(fallbackMethod = "reliable")public String doSayHello(String name) { return demoService.sayHello(name);}public String reliable(String name) { return "hystrix fallback value";}
复制代码

寻找注册中心、服务提供者、服务消费者(启动加载篇-源码分析)

Dubbo 自定义标签实现。

dubbo 通过 Spring 加载配置文件后,是如何触发注册中心、服务提供者、服务消费者按照 Dubbo 的设计执行相关的功能。所谓的执行相关功能如下:


  • 注册中心启动,监听消息提供者的注册服务、接收消息消费者的服务订阅(服务注册与发现机制)。

  • 服务提供者向注册中心注册服务。

  • 服务消费者向注册中心订阅服务。

接下来从使用 dubbo 的角度,从配置文件入手:

Dubbo 服务提供者的一般配置如下:

<!-- 提供方应用信息,用于计算依赖关系 --><dubbo:application name="uop" owner="uce"/><!-- 使用zookeeper注册中心暴露服务地址 --><dubbo:registry protocol="zookeeper" address="zookeeper://192.168.xx.xx:2181?backup=192.168.xx.xx:2182,192.168.xx.xx:2183" /><!--dubbox中引入Kryo和FST这两种高效Java序列化实现,来逐步取代原生dubbo中的hessian2,如果使用kryo记得添加依赖 --><dubbo:protocol name="dubbo" serialization="kryo"  port="20990"  /><!-- 定义服务提供者默认属性值 --><dubbo:provider timeout="5000" threadpool="fixed"  threads="100" accepts="1000" token="true"/><!-- 暴露服务接口 一个服务可以用多个协议暴露,一个服务也可以注册到多个注册中心--><!--Provider上尽量多配置Consumer端的属性,让Provider实现者一开始就思考Provider服务特点、服务质量的问题--><dubbo:service interface="com.yingjun.dubbox.api.UserService" ref="userService" />
复制代码


上面通过 dubbo 提供的 dubbo:application、dubbo:registry、dubbo:protocol、dubbo:provider、dubbo:service 分别定义 dubbo 应用程序名、注册中心、协议、服务提供者参数默认值、服务提供者,这些配置后面的实现原理是什么呢?是如何启动并发挥相关作用的呢?

Spring 自定义标签实现原理

dubbo 自定义标签与命名空间其实现代码在模块 dubbo-config 中,下面将详细介绍其实现原理。

DubboNamespaceHandler

dubbo 命名空间实现 handler,其全路径:com.alibaba.dubbo.config.spring.schema.DubboNamespaceHandler,其源码实现如下:


public class DubboNamespaceHandler extends NamespaceHandlerSupport {
static { Version.checkDuplicate(DubboNamespaceHandler.class); }
@Override public void init() { registerBeanDefinitionParser("application", new DubboBeanDefinitionParser(ApplicationConfig.class, true)); registerBeanDefinitionParser("module", new DubboBeanDefinitionParser(ModuleConfig.class, true)); registerBeanDefinitionParser("registry", new DubboBeanDefinitionParser(RegistryConfig.class, true)); registerBeanDefinitionParser("monitor", new DubboBeanDefinitionParser(MonitorConfig.class, true)); registerBeanDefinitionParser("provider", new DubboBeanDefinitionParser(ProviderConfig.class, true)); registerBeanDefinitionParser("consumer", new DubboBeanDefinitionParser(ConsumerConfig.class, true)); registerBeanDefinitionParser("protocol", new DubboBeanDefinitionParser(ProtocolConfig.class, true)); registerBeanDefinitionParser("service", new DubboBeanDefinitionParser(ServiceBean.class, true)); registerBeanDefinitionParser("reference", new DubboBeanDefinitionParser(ReferenceBean.class, false)); registerBeanDefinitionParser("annotation", new AnnotationBeanDefinitionParser()); }}
复制代码


从这里可以看出,dubbo 自定义的标签主要包括:application、module、registry、monitor、provider、consumer、protocol、service、reference、annotation,其具体解析实现类主要由 DubboBeanDefinitionParser(基于 xml 配置文件)、AnnotationBeanDefinitionParser(基于注解),下文会详细分析上述两个解析类的实现。

定义 dubbo.xsd 文件

在 dubbo-config-spring 模块下的 src/main/resouce/META-INF 中分别定义 dubbo.xsd、spring.handlers、spring.schemas。


关于 Spring 如何新增命名空间与标签,在源码分析 ElasticJob 时已经详细介绍过,再这里就不做过多重复,如需了解,请查看:Spring 自定义命令空间详解

Bean 解析机制

我们应该知道,Spirng 的配置支持 xml 配置文件与注解的方式,故 Dubbo 也支持两种配置方式,xml 与注解方式。

发布于: 20 小时前阅读数: 11
用户头像

🏆2021年InfoQ写作平台-签约作者 🏆 2020.03.25 加入

👑【酷爱计算机技术、醉心开发编程、喜爱健身运动、热衷悬疑推理的”极客狂人“】 🏅 【Java技术领域,MySQL技术领域,APM全链路追踪技术及微服务、分布式方向的技术体系等】 “任何足够先进的技术都是魔法“

评论

发布
暂无评论
🏆【Alibaba微服务技术系列】「Dubbo3.0技术专题」回顾Dubbo2.x的技术原理和功能实现及源码分析(温故而知新)