构建微服务:使用API Gateway

当你决定将应用做为一组微服务时,须要决定应用客户端如何与微服务交互。在单体式程序中,一般只有一组冗余的或者负载均衡的服务提供点。在微服务架构中,每个微服务暴露一组细粒度的服务提供点。在本篇文章中,咱们来看它如何影响客户端到服务端通讯,同时提出一种API Gateway的方法。
web

介绍

假定你正在为在线购物应用开发一个原生手机客户端。你须要实现一个产品最终页来展现商品信息。数据库

例如,下面的图展现了你在亚马逊Android客户端上滑动产品最终页时看到的信息。

虽然这是一个智能手机应用,这个产品最终页展现了很是多的信息。例如,不只这里有产品基本信息(名字、描述和价格),还有如下内容:编程

  • 购物车中的物品数后端

  • 下单历史设计模式

  • 用户评论api

  • 低库存警告浏览器

  • 快递选项缓存

  • 各式各样的推荐,包括常常跟这个物品一块儿被购买的产品、购买该物品的其余顾客购买的产品以及购买该产品的顾客还浏览了哪些产品。服务器

  • 可选的购物选项架构

采用一个单体式应用架构,一个移动客户端将会经过一个REST请求(GET api.company.com/productdetails/productId)来获取这些数据。一个负载均衡将请求分发到多个应用实例之一。应用将查询各类数据库并返回请求给客户端。

相对的,如果采用微服务架构,最终页上的数据会分布在不一样的微服务上。下面列举了可能与产品最终页数据有关的一些微服务:

  • 购物车服务 -- 购物车中的物品数

  • 下单服务 -- 下单历史

  • 分类服务 -- 基本产品信息,如名字、图片和价格

  • 评论服务 -- 用户评论

  • 库存服务 -- 低库存警告

  • 快递服务 -- 快递选项、截止时间、来自不一样快递API的成本计算

  • 推荐服务 -- 推荐产品


咱们须要决定移动客户端如何访问这些服务。请看下面这几种方式

客户端到微服务直接通讯

理论上说,一个客户端能够直接给多个微服务中的任何一个发起请求。每个微服务都会有一个对外服务端。这个URL可能会映射到微服务的负载均衡上,它再转发请求到具体节点上。为了搜索产品细节,移动端须要向上述微服务逐个发请求。

不幸的是,这个方案有不少困难和限制。其中一个问题是客户端的需求量与每一个微服务暴露的细粒度API数量的不匹配。如图中,客户端须要7次单独请求。在更复杂的场景中,可能会须要更屡次请求。例如,亚马逊的产品最终页要请求数百个微服务。虽然一个客户端能够经过LAN发起不少个请求,可是在公网上这样会很没有效率,这个问题在移动互联网上尤其突出。这个方案同时会致使客户端代码很是复杂。

另外一个存在的问题是客户端直接请求微服务的协议可能并非web友好型。一个服务多是用Thrift的RPC协议,而另外一个服务多是用AMQP消息协议。它们都不是浏览或防火墙友好的,而且最好是内部使用。应用应该在防火墙外采用相似HTTP或者WEBSocket协议。

这个方案的另外一个缺点是它很难重构微服务。随着时间的推移,咱们可能须要改变系统微服务目前的切分方案。例如,咱们可能须要将两个服务合并或者将一个服务拆分为多个。可是,若是客户端直接与微服务交互,那么这种重构就很难实施。

因为上述三种问题的缘由,客户端直接与服务器端通讯的方式不多在实际中使用。

采用一个API Gateway

一般来讲,一个更好的解决办法是采用API Gateway的方式。API Gateway是一个服务器,也能够说是进入系统的惟一节点。这跟面向对象设计模式中的Facet模式很像。API Gateway封装内部系统的架构,而且提供API给各个客户端。它还可能有其余功能,如受权、监控、负载均衡、缓存、请求分片和管理、静态响应处理等。下图展现了一个适应当前架构的API Gateway。

API Gateway负责请求转发、合成和协议转换。全部来自客户端的请求都要先通过API Gateway,而后路由这些请求到对应的微服务。API Gateway将常常经过调用多个微服务来处理一个请求以及聚合多个服务的结果。它能够在web协议与内部使用的非Web友好型协议间进行转换,如HTTP协议、WebSocket协议。

API Gateway能够提供给客户端一个定制化的API。它暴露一个粗粒度API给移动客户端。以产品最终页这个使用场景为例。API Gateway提供一个服务提供点(/productdetails?productid=xxx)使得移动客户端能够在一个请求中检索到产品最终页的所有数据。API Gateway经过调用多个服务来处理这一个请求并返回结果,涉及产品信息、推荐、评论等。

一个很好的API Gateway例子是Netfix API Gateway。Netflix流服务提供数百个不一样的微服务,包括电视、机顶盒、智能手机、游戏系统、平板电脑等。起初,Netflix视图提供一个适用全场景的API。可是,他们发现这种形式很差用,由于涉及到各式各样的设备以及它们独特的需求。如今,他们采用一个API Gateway来提供容错性高的API,针对不一样类型设备有相应代码。事实上,一个适配器处理一个请求平均要调用6到8个后端服务。Netflix API Gateway天天处理数十亿的请求。

API Gateway的优势和缺点

如你所料,采用API Gateway也是优缺点并存的。API Gateway的一个最大好处是封装应用内部结构。相比起来调用指定的服务,客户端直接跟gatway交互更简单点。API Gateway提供给每个客户端一个特定API,这样减小了客户端与服务器端的通讯次数,也简化了客户端代码。

API Gateway也有一些缺点。它是一个高可用的组件,必需要开发、部署和管理。还有一个问题,它可能成为开发的一个瓶颈。开发者必须更新API Gateway来提供新服务提供点来支持新暴露的微服务。更新API Gateway时必须越轻量级越好。不然,开发者将由于更新Gateway而排队列。可是,除了这些缺点,对于大部分的应用,采用API Gateway的方式都是有效的。

实现一个API Gateway

既然咱们已经知道了采用API Gateway的动机和优缺点,下面来看在设计它时须要考虑哪些事情。

性能和可扩展性

只有少数公司须要处理像Netflix那样的规模,天天须要处理数十亿的请求。可是,对于大多数应用,API Gateway的性能和可扩展性也是很是重要的。所以,建立一个支持同步、非阻塞I/O的API Gateway是有意义的。已经有不一样的技术能够用来实现一个可扩展的API Gateway。在JVM上,采用基于NIO技术的框架,如Netty,Vertx,Spring Reactor或者JBoss Undertow。Node.js是一个非JVM的流行平台,它是一个在Chrome的JavaScript引擎基础上创建的平台。一个可选的方案是NGINX Plus。NGINX Plus提供一个成熟的、可扩展的、高性能web服务器和反向代理,它们均容易部署、配置和二次开发。NGINX Plus能够管理受权、权限控制、负载均衡、缓存并提供应用健康检查和监控。

采用反应性编程模型

对于有些请求,API Gateway能够经过直接路由请求到对应的后端服务上的方式来处理。对于另一些请求,它须要调用多个后端服务并合并结果来处理。对于一些请求,例如产品最终页面请求,发给后端服务的请求是相互独立的。为了最小化响应时间,API Gateway应该并发的处理相互独立的请求。可是,有时候请求之间是有依赖的。API Gateway可能须要先经过受权服务来验证请求,而后在路由到后端服务。相似的,为了得到客户的产品愿望清单,须要先获取该用户的资料,而后返回清单上产品的信息。这样的一个API 组件是Netflix Video Grid。

利用传统的同步回调方法来实现API合并的代码会使得你进入回调函数的噩梦中。这种代码将很是难度且难以维护。一个优雅的解决方案是采用反应性编程模式来实现。相似的反应抽象实现有Scala的Future,Java8的CompletableFuture和JavaScript的Promise。基于微软.Net平台的有Reactive Extensions(Rx)。Netflix为JVM环境建立了RxJava来使用他们的API Gateway。一样地,JavaScript平台有RxJS,能够在浏览器和Node.js平台上运行。采用反应编程方法能够帮助快速实现一个高效的API Gateway代码。

服务调用

一个基于微服务的应用是一个分布式系统,而且必须采用线程间通讯的机制。有两种线程间通讯的方法。一种是采用同步机制,基于消息的方法。这类的实现方法有JMS和AMQP。另外的,例如Zeromq属于服务间直接通讯。还有一种线程间通讯采用异步机制,例如Thrift和HTTP。事实上一个系统会同时采用同步和异步两种机制。因为它的实现方式有不少种,所以API Gateway就须要支持多种通讯方式。

服务发现

API Gateway须要知道每个微服务的IP和端口。在传统应用中,你可能会硬编码这些地址,可是在如今云基础的微服务应用中,这将是个简单的问题。基础服务一般会采用静态地址,能够采用操做系统环境变量来指定。可是,探测应用服务的地址就没那么容易了。应用服务一般动态分配地址和端口。一样的,因为扩展或者升级,服务的实例也会动态的改变。所以,API Gateway须要采用系统的服务发现机制,要么采用服务端发现,要么是客户端发现。后续的一篇文章将会更详细的介绍这部分。若是采用客户端发现服务,API Gateway必需要去查询服务注册处,也就是微服务实例地址的数据库。

处理部分失败

在实现API Gateway过程当中,另一个须要考虑的问题就是部分失败。这个问题发生在分布式系统中当一个服务调用另一个服务超时或者不可用的状况。API Gateway不该该被阻断并处于无限期等待下游服务的状态。可是,如何处理这种失败依赖于特定的场景和具体服务。例如,若是是在产品详情页的推荐服务模块无响应,那么API Gateway应该返回剩下的其余信息给用户,由于这些信息也是有用的。推荐部分能够返回空,也能够返回固定的顶部10个给用户。可是,若是是产品信息服务无响应,那么API Gateway就应该给客户端返回一个错误。

在缓存有效的时候,API Gateway应该可以返回缓存。例如,因为产品价格变化并不频繁,API Gateway在价格服务不可用时应该返回缓存中的数值。这类数据能够由API Gateway自身来缓存,也能够由Redis或Memcached这类外部缓存实现。经过返回缓存数据或者默认数据,API Gateway来确保系统错误不影响到用户体验。

Netflix Hystrix对于实现远程服务调用代码来讲是一个很是好用的库。Hystrix记录那些超过预设定的极限值的调用。它实现了circuit break模式,使得能够将客户端从无响应服务的无尽等待中中止。若是一个服务的错误率超过预设值,Hystrix将中断服务,而且在一段时间内全部请求马上失效。Hystrix能够为请求失败定义一个fallback操做,例如读取缓存或者返回默认值。若是你在用JVM,就应该考虑使用Hystrix。若是你采用的非JVM环境,那么应该考虑采用相似功能的库。

总结

对于大多数微服务基础的应用,实现一个API Gateway都是有意义的,它就像是进入系统的一个服务提供点。API Gateway负责请求转发、请求合成和协议转换。它提供给应用客户端一个自定义的API。API Gateway能够经过返回缓存或者默认值的方式来掩盖后端服务的错误。在本系列的下一篇文章中,咱们将讨论服务间的通讯问题。

相关文章
相关标签/搜索