微服务核心架构梳理

Hello，Microservices

什么是微服务

微服务Microservices之父，马丁.福勒，对微服务大概的概述以下：

就目前而言，对于微服务业界并无一个统一的、标准的定义（While there is no precise definition of this architectural style ) 。 但通在其常而言，微服务架构是一种架构模式或者说是一种架构风格，它提倡将单一应用程序划分红一组小的服务，每一个服务运行独立的本身的进程中，服务之间互相协调、互相配合，为用户提供最终价值。服务之间采用轻量级的通讯机制互相沟通（一般是基于 HTTP 的 RESTful API ) 。每一个服务都围绕着具体业务进行构建，而且可以被独立地部署到生产环境、类生产环境等。 另外，应尽可能避免统一的、集中式的服务管理机制，对具体的一个服务而言，应根据业务上下文，选择合适的语言、工具对其进行构建，能够有一个很是轻量级的集中式管理来协调这些服务。可使用不一样的语言来编写服务，也可使用不一样的数据存储。

根据马丁.福勒的描述，我总结了一下几点：

（字差，勿嫌）

小服务

小服务，没有特定的标准或者规范，但他在整体规范上必定是小的。

进程独立

每一组服务都是独立运行的，可能我这个服务运行在tomcat容器，而另外一个服务运行在jetty上。能够经过进程方式，不断的横向扩展整个服务。

通讯

过去的协议都是很重的，就像ESB，就像SOAP，轻通讯，着意味着相比过去更智能更轻量的服务相互调用，就所谓smart endpoints and dumb pipes，这些endpoint都是解耦的，完成一个业务通讯调用串起这些micro service就像是linux系统中经过管道串起一系列命令业务。

过去的业务，咱们一般会考虑各类各样的依赖关系，考虑系统耦合带来的问题。微服务，可让开发者更专一于业务的逻辑开发。

部署

不止业务要独立，部署也要独立。不过这也意味着，传统的开发流程会出现必定程度的改变，开发的适合也要有必定的运维指责

管理

传统的企业级SOA服务每每很大，不易于管理，耦合性高，团队开发成本比较大。微服务，可让团队各思其政的选择技术实现，不一样的service能够根据各自的须要选择不一样的技术栈来实现其业务逻辑。

微服务的利与弊

为何用微服务呢？由于好玩？

不是的。下面是我从网络上找到说的比较全的优势：

• 优势每一个服务足够内聚，足够小，代码容易理解这样能聚焦一个指定的业务功能或业务需求
• 开发简单、开发效率提升，一个服务可能就是专注的只干一件事。
• 微服务可以被小团队单独开发，这个小团队是 2 到 5 人的开发人员组成。
• 微服务是松藕合的，是有功能意义的服务，不管是在开发阶段或部署阶段都是独立的。
• 微服务能使用不一样的语言开发。
• 易于和第三方集成，微服务容许容易且灵活的方式集成自动部署，经过持续集成工具，如Jenkins,Hudson,bamboo。
• 微服务易于被一个开发人员理解，修改和维护，这样小团队可以更关注本身的工做成果。无需- - 经过合做才能体现价值。微服务容许你利用融合最新技术。
• 微服务只是业务逻辑的代码，不会和 HTML,CSS或其余界面组件混合。
• 每一个微服务都有本身的存储能力，能够有本身的数据库。也能够有统一数据库。

总的来讲，微服务的优点，就是在于，面对大的系统，能够有效的减小复杂程度，使服务架构的逻辑更清晰明了。

可是这样也会带来不少问题，就譬如分布式环境下的数据一致性，测试的复杂性，运维的复杂性。

什么组织适合使用微服务？

微服务带了种种优势，种种弊端，那么什么组织适合使用微服务？

墨菲定律（设计系统）和康威定律（系统划分）

康威定律，是一个五十多年前就被提出来的微服务概念。在康威的这篇文章中，最有名的一句话就是：

Organizations which design systems are constrained to produce designs which are copies of the communication structures of these organizations. - Melvin Conway(1967)

中文直译大概的意思就是：设计系统的组织，其产生的设计等同于组织以内、组织之间的沟通结构。看看下面的图片（来源于互联网，侵删），再想一想Apple的产品、微软的产品设计，就能形象生动的理解这句话。

感兴趣的各位能够研究一下

架构演化

架构是不断演化出来的，微服务也是这样，当从各大科技公司，规模大到必定程度，彻底须要演化成更进一步管理的技术架构体系。

（字差，勿嫌）

传统的团队，都是面向过程化的，产品想完了去找策划，策划完了找开发，接着顺着一步一步找。咱们作技术都是为了产品的，一旦过程出来了什么问题，回溯寻找问题会很是耗时。

（字差，勿嫌）

使用了微服务架构体系，团队组织方式须要转变成跨职能团队，即每一个团队都有产品专家，策划专家，开发专家，运维专家，他们使用API方式发布他们的功能，而平台使用他们的功能发布产品

微服务技术架构体系

下面我分享一下大部分公司都使用的微服务技术架构体系。

（图差，勿嫌）

服务发现

主流的服务发现，分为三种

第一种，开发人员开发了程序之后，会找运维配一个域名，服务的话经过dns就能找到咱们对应的服务

缺点是，因为服务没有负载均衡功能，对负载均衡服务，可能会有至关大的性能问题。

第二种，是目前广泛的作法。能够参考我上篇博客分析的zuul网关，每个服务都经过服务端内置的功能注册到注册中心，服务消费者不断轮询注册中心发现对应的服务，使用内置负载均衡调用服务。

缺点是，对多语言环境不是很好，你须要单独给消费者的客户端开发服务发现和负载均衡功能。固然了，这个方法一般都是用在spring cloud上的。

第三种，是将客户端和负载均衡放在同一个主机，而不是同一个进程内。

这种方法相对第一种第二种方法来讲，改善了他们的缺点，可是会极大增长运维成本。

网关

微服务的网关是什么？

咱们能够联系生活实际想一下。每个大的公司，都会有一偏属于本身的建筑区，而这建筑区内，都有很多的门卫。若是有外来人员进入公司，会先和门卫打好招呼，才能进去。

将生活实际联系到微服务上，就不难理解网关的意思了。

网关有什么用

• 反向路由：不少时候，公司不想让外部人员看到咱们公司的内部，就须要网关来进行反向路由。即将外部请求转换成内部具体服务条用
• 安全认证：网络中会有不少恶意访问，譬如爬虫，譬如黑客攻击，网关维护安全功能。
• 限流熔断：参考我学好分布式zookepper的博客，当请求不少服务不堪重负，会让咱们的服务自动关闭，致使不能用服务。限流熔断能够有效的避免这类问题
• 日志监控：全部的外面的请求都会通过网关，这样咱们就可使用网关来记录日志信息
• 灰度发布，蓝绿部署。是指可以平滑过渡的一种发布方式。在其上能够进行A/B testing，即让一部分用户继续用产品特性A，一部分用户开始用产品特性B，若是用户对B没有什么反对意见，那么逐步扩大范围，把全部用户都迁移到B上面来。

开源网关Zuul架构

zuul网关核心实际上是一个servlet，全部请求都会通过zuul servlet传到zuulFilter Runner，而后分发到三种过滤器。

先说说架构图左半部分，分别是使用Groovy实现的前置路由过滤器，路由过滤器，后置路由过滤器。

通常请求都会先通过前置路由过滤器处理，通常的自定义java封装逻辑也会在这里实现。

路由过滤器，实现的是找到对应的微服务进行调用。

调用完了，响应回来，会通过后置路由过滤器，经过后置路由过滤器咱们能够封装日志审计的处理。

能够说zuul网关最大的特点就是它三层过滤器。

架构图右半部分，是zuul网关设计的自定义过滤器加载机制。网关内部会有生产者消费者模型，自动的将过滤器脚本发布到zuul网关读取加载运行。

配置中心

之前，开发人员把配置文件放在开发文件里面，这样会有不少隐患。譬如，配置规范不一样，没法追溯配置人员。一旦须要大规模改动配置，改动时间会很长，没法追溯配置人员，从而影响整个产品，后果是咱们承担不起的。

所以就有配置中心这个喽~

如今的开源中心有百度配置中心 Disconf，spring cloud config，Apollo，今天重点说说如今应用质量不错的配置中心阿波罗。

携程开源的Apollo

apollo的配置中心规模比较大，本地应用会有响应的配置中心客户端，能够定时同步配置中内心的配置。若是配置中心怠机，会使用缓存来进行配置。

通信方式

关于通信方式，通常市面也就是两种远程调用方式，我整理了一个表格：

监控预警

监控预警对于微服务很重要，一个可靠的监控预警体系对微服务运行相当重要。通常监控分为以下层次：

从基础设施到用户端，层层有监控，全方位，多角度，每个层面都很重要。整体来讲，微服务可分5个监控点：日志监控，Metrics监控，健康检查，调用链检查，告警系统

监控架构

下面的图是大部分公司的一种监控架构图。每个服务都有一个agent，agent收集到关键信息，会传到一些MQ中，为了解耦。同时将日志传入ELK，将Metrics传入InfluxDB时间序列库。而像nagios，能够按期向agent发起信息检查微服务。

调用链监控APM

不少公司都有调用链监控，就譬如阿里有鹰眼监控，点评的Cat，大部分调用链监控（没错，我指的Zipkin）架构是这样的

当请求进入Web容器的时候，会通过建立Tracer，链接spans（模拟潜在的分布式工做的延迟，该模块还包含在系统网络间传递跟踪上下文信息的工具包，如经过http headers）。Spans有一个上下文，其中包含tracer标识符，将其放在表示分布式操做的树的正确位置。当咱们把图中的各类span放到后端的时候，咱们的服务调用链会动态的生成调用链。

熔断、隔离、限流、降级

面对巨大的突发流量下，大型公司通常会采用一系列的熔断（系统自动将服务关闭防止让出现的问题最大化）、隔离（将服务和服务隔离，防止一个服务挂了其余服务不能访问）、限流（单位时间内之容许必定数量用户访问）、降级（当整个微服务架构总体的负载超出了预设的上限阈值或即将到来的流量预计将会超过预设的阈值时，为了保证重要或基本的服务能正常运行，咱们能够将一些 不重要或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用）措施。

下面介绍一下hystrix的运行流程（没找到架构图很差意思）：

每个微服务调用时，都会使用hystrix的command方式（上图的左上角那个），而后使用command同步的，或者是响应式的，或者是异步的，判断电路是否熔断（顺着图从左往右看），

若是断路则走降级fallback；

若是这个线闭合着，可是线程资源没了，队列满了，则走限流措施（看图的第5步）；

若是走完了，执行成功了，则走run()方法，获取response，可是这个过程若是出错了，则继续走降级fallback.

同时，看图最上面有一个后缀是health的，这是一个计算整个链路是否健康的组件，每一步操做都被它记录着。

容器与服务编排引擎

从物理机到虚拟机，从虚拟机到容器；从物理集群到open stack，open stack到kubernetes；科技不断的变化，咱们的认知也没刷新。

咱们从容器开始提及，它首先是一个相对独立的运行环境，在这一点有点相似于虚拟机，可是不像虚拟机那样完全。 虚拟机会将虚拟硬件、内核（即操做系统）以及用户空间打包在新虚拟机当中，虚拟机可以利用“虚拟机管理程序”运行在物理设备之上。虚拟机依赖于hypervisor，其一般被安装在“裸金属”系统硬件之上，这致使hypervisor在某些方面被认为是一种操做系统。一旦 hypervisor安装完成， 就能够从系统可用计算资源当中分配虚拟机实例了，每台虚拟机都可以得到惟一的操做系统和负载(应用程序)。简言之，虚拟机先须要虚拟一个物理环境，而后构建一个完整的操做系统，再搭建一层Runtime，而后供应用程序运行。 对于容器环境来讲，不须要安装主机操做系统，直接将容器层(好比LXC或libcontainer)安装在主机操做系统(一般是Linux变种)之上。在安装完容器层以后，就能够从系统可用计算资源当中分配容器实例了，而且企业应用能够被部署在容器当中。可是，每一个容器化应用都会共享相同的操做系统(单个主机操做系统)。容器能够当作一个装好了一组特定应用的虚拟机，它直接利用了宿主机的内核，抽象层比虚拟机更少，更加轻量化，启动速度极快。

相比于虚拟机，容器拥有更高的资源使用效率，由于它并不须要为每一个应用分配单独的操做系统——实例规模更小、建立和迁移速度也更快。这意味相比于虚拟机，单个操做系统可以承载更多的容器。云提供商十分热衷于容器技术，由于在相同的硬件设备当中，能够部署数量更多的容器实例。此外，容器易于迁移，可是只能被迁移到具备兼容操做系统内核的其余服务器当中，这样就会给迁移选择带来限制。由于容器不像虚拟机那样一样对内核或者虚拟硬件进行打包，因此每套容器都拥有本身的隔离化用户空间，从而使得多套容器可以运行在同一主机系统之上。咱们能够看到所有操做系统层级的架构均可实现跨容器共享，唯一须要独立构建的就是二进制文件与库。正由于如此，容器才拥有极为出色的轻量化特性。

咱们最经常使用的容器是daocker

容器编排

过去虚拟机能够经过云平台open stack管理虚拟化，容器时代如何管理容器呢？这就要看看容器编排引擎了。

Apache mesos

mesos是基于master，slave架构，框架决定如何利用资源，master负责管理机器，slave会按期的将机器状况报告给master，master再将信息给框架。master是高可用的，由于zk，也有leader的存在。下面是架构图

kubernetes

kubernetes是最近十分火热的开源容器编排引擎，具体能够参考kubernetes中文文档

Kubernetes设计理念和功能其实就是一个相似Linux的分层架构，先说说每个Kubernetes节点内部，kubelet管理全局全局pod，而每个pod承载着一个或多个容器，kube-proxy负责网络代理和负载均衡。

Kubernetes节点外部，则是对应的控制管理服务器，负责统一管理各个节点调度分配与运行。