Dubbo 云原生之路

 【Dubbo 云原生之路】系列开篇

做者:刘军
花名陆龟,Github 帐号 Chickenlj,Apache Dubbo PMC,项目核心开发,见证了 Dubbo 重启开源,到从 Apache 基金会毕业的整个过程。现任职阿里云云原生应用平台团队,参与服务框架、微服务相关工做,目前主要在推进 Dubbo 3.0 - Dubbo 云原生。

纵观中国开源历史,你真的无法找到第二个像 Dubbo 同样自带争议和讨论热度的开源项目。git

一方面,2011年,它的开源填补了当时生产环境使用的 RPC 框架的空白,一发布就被普遍采用;另外一方面,它经历了中止维护、重启维护后捐献给 Apache 基金会、接着又以顶级项目的身份毕业。即使阿里努力对外展现开源投入的决心,在面对广受欢迎的后起之秀 Spring Cloud,和新生儿 Service Mesh 的夹击下,Dubbo 的路将怎么走下去?在云原生时代,它如何延续当前光芒?github

今年是 Dubbo 从 Apache 基金会毕业的一周年,同时也是推动 Dubbo 3.0,即全面拥抱云原生的重要一年。golang

Dubbo 与开源中国共同策划【Dubbo 云原生之路】系列文章,和你们一块儿回顾 Apache Dubbo 社区的发展。系列文章主要涵盖 Dubbo 技术解读、社区运营、应用案例解析三大部分,以后每周都会和你们见面。web

在这里,咱们也向全部的 Dubbo 用户和开发者发出投稿邀请,若是你正在使用 Dubbo,或是正在为 Dubbo 贡献力量,欢迎和咱们分享你的开发使用经验,优质文章也会收录进【Dubbo 云原生之路】系列。算法

投稿地址:xuyijun@oschina.cnspring

【Dubbo 云原生之路】系列第一篇:3.0全面铺开、ASF 毕业一周年

本篇做为整个系列的开篇,将总体回顾并展望 Dubbo 项目发展,同时简要归纳后续文章。apache

从2019年到如今,在 Dubbo 毕业的这一年时间里,Dubbo 社区和产品都取得长足进步,同时 Dubbo 云原生版本 - Dubbo 3.0的开发工做也已经全面铺开。编程

社区方面。须要重点说起的有两点:一个是落地与贡献的企业用户进一步增长,主动与社区取得联系的中、大规模公司达200多家,如携程、工商银行、瓜子二手车、网联清算、中通等;另外一个是以 Dubbo-go 为表明的子社区蓬勃发展。安全

产品技术演进方面。Dubbo Java 版发布10个版本,在多语言、协议、性能、服务治理模型等方面都有深度探索。Dubbo go 发布超过8个版本,在功能基本对齐 Java 版本的基础上,一些方向上也已经走在了 Java 版本前面。值得一提的是,阿里巴巴内部也正在积极推进 Dubbo 社区版本在内部的落地,从今年开始逐步实现以 Dubbo 替换其内部的 HSF 框架。这一方面有利于阿里将其在 HSF 上的丰富服务治理经验回馈输出到社区,另外一方面阿里官方的落地也将直接加速 Dubbo 云原生的发展。性能优化

在云原生大潮下,3.0已被正式列为今年 Dubbo 产品建设的核心目标,涉及下一代 RPC 协议、服务治理模型、云原生基础设施适配等多方面的内容。其中,不少方面已经在当前的2.7版本中作了前置性探索,如近期发布的基于 HTTP/2的协议支持、应用级服务发现等,后续工做将以此为基础展开。系列文章也会有对 Dubbo 3.0 Roadmap 及技术方案的详细解析。

Dubbo 毕业一周年回顾

2017年7月,Dubbo 开源项目被从新激活,2018年捐献到 Apache 基金会,2019年5月,Dubbo 正式从 Apache 基金会孵化毕业,成为 Apache 顶级项目。接下来,文章分别从社区、子社区、产品三方面介绍 Dubbo 过去一年的成绩。

社区一年发布24个版本,贡献者已超300

若是说最开始从新激活是以阿里巴巴为主导的项目维护投入,那自 Dubbo 加入 Apache 起,它就已经开始成为一个社区主导、社区贡献为主的彻底开放的基金会项目。

到今天,这一趋势正变得更明显。包括阿里巴巴、携程、工商银行、瓜子二手车、网联清算、中通等在内的互联网、传统企业公司,在 Dubbo 的使用与社区代码贡献上都有投入。Dubbo 社区正变得很是活跃和多样化。

过去一年,Dubbo 社区项目总共发布24个版本,发展 Committer/PMC 27人,其中有20%的贡献者是来自于阿里巴巴,80%以上来自不一样组织的开发者或爱好者。

Dubbo 社区组织了超过10场线下 meetup 活动,基本覆盖了国内开发者汇集的城市。经过线下或线上直播活动,分享超过100个 topic 的演讲,深度讲解 Dubbo 社区最新动态、功能模块开发和近期规划等。主题演讲大可能是社区采集方式,由 Dubbo 的深度企业分享实践经验,其中典型的表明包括携程、工商银行、考拉、信用算力等。

从 Github 统计数据来看,Dubbo Star 数取得新的里程碑,已超过3万,相比重启开源时增加了近5倍;贡献者由最初的几十个增加到如今的300多个,而这其中有60多人已经被提名为 committer,不管是贡献者数量仍是 committer 比例都获得很大的提高;Dubbo Java 发布的有65个。

上述主要是对 Dubbo Java 项目社区发展的总结,下面将介绍 Dubbo Java 产品方面的进展。

Dubbo Java 迭代,目前主要维护3个大版本

当前社区维护的 Dubbo Java 大版本主要有3个,分别是2.5.x、2.6.x 和2.7.x。

  • 2.7.x 是社区的主要开发版本,在过去的一年共发布了8个版本(2.7.0 - 2.7.7),每一个版本都有一些值得关注的特性或功能升级,涵盖从编程模型、服务治理、性能到协议的多个方面的加强。
  • 2.6.x 版本则定位为 bugfix 版本,过去一年共发布了3个版本,主要以修复问题和安全漏洞为主,并无增长太多新的 feature。
  • 2.5.x 版本从2019年初开始已宣布 EOF,只作安全修复;而到了下半年已经彻底中止了维护。

下面经过一个简要分层模块图,回顾过去一段时间 Dubbo 的技术架构演进,从编程模型、服务治理、传输协议、性能优化等角度切入:

以上不少功能都已被各大厂商落地,用于解决具体的业务问题。咱们也期待,接下来这些厂商带来更多关于 Dubbo 实践经验的深度总结。

Dubbo-go 发展的第五年,正与 Dubbo 齐头并进

除 Dubbo Java 以外,Dubbo 周边也发展出了不少优秀的子项目(子社区),其中包括 Dubbo-spring-boot-projectDubbo-go 等,这里先着重介绍 Dubbo-go 子社区。

Dubbo-go 项目最先由于雨在2016年5月构建,同年9月发布并开源,以下时间轴图清晰记录了 Dubbo-go 的前世此生

秉承 "bridge the gap between Java and Go" 自然使命的 Dubbo-go已经进入第五个年头,也走出了本身独特的发展路径:

  • 当前的 v1.4.0 版本已对齐2.6.x 版本,即将发布的版本将与 v2.7.x【对标 v2.7.5】对齐,然后将会发布对标 Dubbo 3.x 的 v1.6.0版本;
  • 独立维护从底层的 hessian2协议库 Dubbo-go-hessian2、网络库 getty 到上层对标 Dubbo 的 Dubbo-go 的全套实现;
  • 独立的 TCP + Protobuf 和 gRPC + JSON 通讯方案也已开发完成【将包含着在版本 v1.5.0中】;
  • 已与 Dubbo/gRPC/Spring Boot 实现互联互通;
  • 经过接入 Opentracing 和 Promethus,Dubbo-go 在可观测性等微服务方向的进行了本身独特的探索;
  • 已实现了基于 HTTPS 的可信 RPC 调用
  • 已经实现了本身独特的把 kubernetes 做为注册中心的微服务方案

Dubbo-go 从最开始 Dubbo 的 Go 语言实现,已发展成为目前 Dubbo 多语言版本中功能最强大者,它的发展离不开背后强大的 Dubbo-go 社区。除了上述 Dubbo-go 的自身特性外,经过跨社区合做,取得了以下成绩:

  • 经过与 MOSN 社区合做,已经实现 Dubbo/Dubbo-go 应用能够零成本接入基于 MOSN 实现 Dubbo Mesh,实现微服务和云原生共存的 “双模微服务”
  • 与 sentinel 社区合做,在 Dubbo/Dubbo-go 完整接入 sentinel 的降级和限流方案
  • 与 Apollo 社区合做,在 Dubbo-go 中实现远程配置下发
  • 与 Nacos 社区合做,实现基于 Nacos 的服务发现; 

Dubbo-go 社区2020年 Q2主要目标有:

  • 发布彻底对齐 Dubbo 2.7.x 的 v1.5.0版本
  • 发布对标 Dubbo 3.0的 v1.6.0版本;
  • 在云原生方面继续本身的探索;
  • 继续与兄弟社区保持合做共进态势,扩大自身使用范围;
  • 生产实践上推动在阿里集团,以及更多厂家的落地。

项目(包括子项目)目前已前后在携程涂鸦智能蚂蚁金服等公司生产落地。

今年阿里集团完成 HSF 和 Dubbo 的融合后,项目也将在阿里集团双十一战场经受考验。

云原生 Dubbo - Dubbo 3.0

3.0是下一代 Dubbo 架构的代号。一年前,最开始探索 Reactive Stream 之时,社区也曾有过对 Dubbo 3.0的普遍讨论。而这一次,在云原生大背景下,3.0表明了更全面的 Dubbo 架构升级,涉及到下一代 RPC 协议、全新的服务治理模型和云原生基础设施适配等。

阿里巴巴是参与 Dubbo 3.0开发建设的主要力量之一,这款始于阿里的开源项目正从新回归阿里内部落地。

去年开始,阿里巴巴就已经在逐步推进以 Dubbo 替换其内部的 HSF 框架的工做,经过将 Dubbo 与 HSF 两个框架融为一体,并在此基础上发展出适应云原生架构的 Dubbo 版本。Dubbo 重回阿里巴巴的落地是拥抱社区、拥抱云原生、拥抱标准化的一次很好的实践。阿里巴巴内部 Dubbo 3.0的落地,对社区也是一个重大利好,这一方面有利于阿里巴巴将其在 HSF 上的丰富服务治理经验回馈输出到社区,另外一方面也将直接推进 Dubbo 云原生架构的快速演进。除了阿里巴巴以外,包括斗鱼、工商银行、爱奇艺、斗鱼等厂商也都在参与下一代 Dubbo 3.0的建设。

下面列出了 Dubbo 3.0中的三个重要方向,具体的 Roadmap 将在接下来文章中单独说明:

  • 下一代 RPC 协议。新协议将提供更丰富的如 Stream、Flow Control 等内置语义,同时将具备更好的扩展性、网关的友好性等;
  • 基于应用粒度的服务发现机制。在兼顾 Dubbo 面向接口的易用性与功能性的基础上,解决与 Kubernetes Native Service 适配问题,解决大规模集群下的地址推送性能瓶颈问题;
  • 适配云原生基础设施的解决方案。这涉及到 Dubbo 服务与基础设施生命周期对接、Kubernetes Native Service 适配、适应基础设施调度的服务治理规则、适配 Service Mesh 架构的解决方案等;

接下来沿着这三个方面简要展开。

下一代 RPC 协议

专一在协议自身来讲,下一代的协议主要聚焦在 HTTP/二、Reactive Stream、Flow Control 等方面:

  • Reactive Stream
    
    Reactive Stream 引入 RPC,带来更丰富的通讯语义和 API 编程模型支持,如 Request-Stream、Bi-Stream 等
  • HTTP/2
    
    微服务云原生场景下,基于 HTTP/2构建的通讯协议具备更好的通用性和穿透性
  • Flow Control
    
    协议内置流控机制,支持相似 Reqctive Stream 的 Request (n) 流控机制

从解决的业务场景问题上来讲,基于新的协议 Dubbo 在框架层面要支持智能决策的负载均衡算法、对 Mesh 和网关更友好、更容易提供多语言实现与互通等

  • Mesh
    
    协议对穿透 Mesh 更友好,区分协议头 Metadata 与 RPC Payload,方便完成与 Mesh 的协做,包括流量控制机制、应用层配置协商等
  • 协议通用性
    
    兼顾通用性与性能,支持协议能在各类设备上运行
  • 多语⾔支持
    
    如经过支持 Protobuf 提供了更完善的 跨语言服务定义 与 序列化传输的支持

应用级服务治理

面向接口一直以来都是 Dubbo 框架的优点。一方面它的易用性,为开发者屏蔽了远程调用的存在;另外一方面面向接口的地址发现、服务治理带来了更强大的能力,使得整个 Dubbo 治理体系很是强大与灵活。

既然面向接口有如此多的好处,那为何咱们还要探索面向应用的服务治理模式呢?

听起来彷佛有些矛盾。其实究竟是面向接口,仍是面向应用,只是从不一样的角度看 Dubbo。咱们所聊的“面向接口 -> 面向应用”的改造,主要体如今服务注册、发现层面

而咱们说的面向应用的新模型,主要对第2点,即注册中心的数据组织转变为 “面向应用/实例” 粒度。这为咱们解决两个问题:

  • 在服务发现层面与 Kubernetes Service 等微服务模型对齐
  • 服务发现的数据量将有一个量级的降低,从 “接口数 * 实例数 ”降低到 “应用数 * 实例数”

具体能够参见文章《Dubbo 迈出云原生重要一步 - 应用级服务发现解析》,本系列文章后续也会有对这部分机制和实现的更深度解析。

云原生基础设施

云原生带来了底层基础设施,应用开发、部署和运维等全方位的变化:

基础设施

  • 基础设施调度机制变化,带来运维(生命周期)、服务治理等方面的变化。
  • 服务发现能力下沉, Kubernetes 抽象了 Native Service Discovery。

Service Mesh - 云原生微服务解决方案

  • Mesh 为跨语言、sdk 升级等提供了解决方案,Dubbo sdk 要与 Mesh 协做,作到功能、协议、服务治理等多方便的适配。
  • Mesh 还没有大规模铺开,且其更适合对流量管控更关注的应用,传统 SDK 的性能优点仍旧存在,二者混部迁移场景可能会长期存在。

从应用场景上,Dubbo 可能的部署环境包括:

  1. 不使用 Kubernetes Native Service,Kubernetes 只做为容器编排调度设施,继续使用 Dubbo  自建的服务注册、发现机制。
  2. 复用 Kubernetes Native Service,Dubbo 再也不关心服务注册,Dubbo Client 负责服务发现与流量分配。
  3. Dubbo sdk 往 Mesh 迁移,一方面要作到适应 Mesh 架构,成为 Mesh 体系下的 RPC 编程和通讯方案;另外一方面要作到 Dubbo 与 Mesh 架构长期共存,互相打通服务发现和治理体系。
  4. Kubernetes 上与云下混合部署的平滑迁移支持,包括服务发现的统一与网络通讯方案的打通。

从 Dubbo 功能划分上,将着重从如下方面提供对云原生基础设施的支持:

生命周期:Dubbo 与 Kubernetes 调度机制绑定,保持服务生命周期与 Pod 容器等生命周期的自动对齐

治理规则:服务治理规则在规则体、规则格式方面进行优化,如规则体以 YAML 描述、取消过滤规则对 IP 的直接依赖,定义规则特有的 CRD 资源等。

服务发现: 支持 K8S Native Service 的服务发现,包括 DNS、API-Server,支持 xDS 的服务发现

Mesh 架构协做:构建下一代的基于 HTTP/2的通讯协议,支持 xDS 的标准化的数据下发

新一代的 RPC 协议和应用级服务发现模型将会是这一部分的前置基础。

总结与展望

做为系列文章开篇,咱们在这里对 Dubbo 过去一年的成绩作了简要的总结与回顾,包括 Dubbo 社区、产品迭代的发展。

接下来咱们会看到更多来自深度 Dubbo 用户的落地经验分享,Dubbo-go 子社区的发展故事等。

更重要的,咱们也对下一代云原生 Dubbo - Dubbo 3.0 作了展望,后续关于 Dubbo 3.0 Roadmap、方案设计与进展解析等也将在此系列中发布。 

敬请期待!