前言前端
在今天的文章中小码哥将会给你们分享一个目前工做中遇到的一个比较有趣的案例,就是如何将Python写的微服务融入到以Java技术栈为主的Spring Cloud微服务体系中?也许有朋友会有疑问,到底什么样的场景须要用Python写一个微服务,而且还要融入以Java技术栈为主的Spring Cloud微服务体系中呢?python
大体状况是这样的,小码哥目前所在的公司后端技术栈基本上是以Java为主,而且整个后端软件系统采用的也是基于Spring Cloud框架为主的微服务架构(PS:在以往的文章中小码哥写了一些关于这方面的文章,你们能够在文末的推荐阅读中查看相关内容),服务的注册发现是基于Consul,而服务的调用及负载均衡也都是基于FeignClient调用以及Robbin客户端依赖来实现的,因此总体架构大概就是这样的一个标准Spring Cloud微服务架构。如图所示:web
大部分场景下基于以上微服务架构是比较好扩展的,例如你有一个新的微服务,若是彻底能够经过Java语言构建的话,那就是很是简单的一件事,由于你只须要基于Spring Boot编写一个微服务项目,而后经过Spring Cloud提供的注解将其快速地注入Consul的服务注册&发现机制,而后就能够很快地对内或对外提供服务了。算法
而在这里,小码哥遇到的是一个比较特殊的场景,由于最近小码哥一直在作一些出行行业相关的事情,因此须要作一些路径规划和计算的工做。这里就有一个比较棘手的需求:“须要对车辆的调度作一些路径规划,简单的来讲就是地图上有不少个坐标点的位置,须要给有限的运营车辆作路径规划,尽可能以一个距离最短的最佳路线去遍历完这些位置,从而节省运营资源提升运营效率”。spring
关于这个问题,其实是涉及到计算机科学中比较经典的一个TSP(旅行商)算法问题,若是你们对这个算法有了解的话,就会理解这个问题须要很是大的计算量,由于每多几个位置,其算法的复杂度就会呈指数增加。而要解决这个问题,若是自行编写解决方案的话须要耗费很大的精力而且还须要不断的优化算法!数据库
因此这个时候小码哥就想是否是有一些相对比较可靠的开源工具能够利用呢?因此通过一些研究和调研,果真发现有一个Google开源的运筹计算工具OR-TOOLS,其中提供了关于TSP及VRP问题的解法,关于这个工具解决TSP及VRP问题的方法与TSP问题同样,小码哥会在后面找机会给你们分享。json
由于计算量很是大因此在使用OR-TOOLS工具时,咱们须要在本地安装OR-TOOLS软件,而在具体编写计算代码时因其对Java的支持体验比较差(缺少官方发布的Maven依赖,以及示例代码不全等),因此最终咱们须要使用Python语言来进行开发,而且每一次的路径规划计算,都须要以服务的方式对上层应用进行开放。后端
说到这里,各位应该已经理解了小码哥的纠结的问题了,由于Python服务相对于Spring Cloud这一套体系来讲,算是一个异构服务了,其自己并不像Java那样能够很方便的利用Spring Boot、Spring Cloud提供的一套成熟的体系。而若是选择不融入Spring Cloud体系,那意味着对于Python服务,咱们须要作单独的部署及负载设计。例如,咱们可能须要单独部署几个Python节点,而后经过Nginx单独配置负载均衡,内部微服务调用也须要每次都绕到Nginx那一层才能够以负载的方式访问。以下图所示:api
实际上这种方式就是回到了早期传统服务架构时代的负载均衡模式配置方式上去了,虽然也没有太大的问题,只是为这样个别的异构服务单独设置一套部署体系,从成本及扩展性上来讲的确有些别扭!因此,若是咱们能够直接将Python写的异构服务也能经过注册到Consul的话,这样也就融入了标准的Spring Cloud微服务体系,问题就简单多了!cookie
构建Python web服务
接下来咱们就以具体代码的方式先一块儿来看看怎么样编写一个Python web服务,并看看怎么样才能够将其注册到Consul中,并与其余微服务实现服务发现和调用!在基于Python编写Web服务时,为了简化开发能够选择一个比较成熟的PythonWeb框架,这里小码哥用的是Tornado,Python中其余Web框架还有Flask、Django等,由于Tornado性能相对比较高适合作后端接口服务,因此就选择了Tornado,这里就再也不进一步说明了。
在具体进行代码开发时,咱们须要安装好Python开发环境,这里小码哥使用的是Python3.7.3,而Tornado使用的则是5.1.1版本,具体的安装方式你们能够查一下,这里就再也不多说!接下了,咱们具体来看下在真实的项目工程中时怎么将Python注入Consul的!
由于Python不像Java那样基于Spring Cloud有一套完整的依赖包,能够很方便地使用一个注解就能够进行服务注册与发现,因此咱们须要基于consulate这个Python库来单独编写服务注册代码,以下:
import json from random import randint from consulate import Consul # consul 操做类 import requests class ConsulClient(): def __init__(self, host=None, port=None, token=None): # 初始化,指定consul主机,端口,和token self.host = host # consul 主机 self.port = port # consul 端口 self.token = token self.consul = Consul(host=host, port=port) def register(self, name, service_id, address, port, tags, interval, httpcheck): # 注册服务 注册服务的服务名 端口 以及 健康监测端口 self.consul.agent.service.register(name, service_id=service_id, address=address, port=port, tags=tags, interval=interval, httpcheck=httpcheck) def deregister(self, service_id): # 此处有坑,源代码用的get方法是不对的,改为put,两个方法都得改 self.consul.agent.service.deregister(service_id) self.consul.agent.check.deregister(service_id) def getService(self, name): # 负载均衡获取服务实例 url = 'http://' + self.host + ':' + str(self.port) + '/v1/catalog/service/' + name # 获取 相应服务下的DataCenter dataCenterResp = requests.get(url) if dataCenterResp.status_code != 200: raise Exception('can not connect to consul ') listData = json.loads(dataCenterResp.text) dcset = set() # DataCenter 集合 初始化 for service in listData: dcset.add(service.get('Datacenter')) serviceList = [] # 服务列表 初始化 for dc in dcset: if self.token: url = 'http://' + self.host + ':' + self.port + '/v1/health/service/' + name + '?dc=' + dc + '&token=' + self.token else: url = 'http://' + self.host + ':' + self.port + '/v1/health/service/' + name + '?dc=' + dc + '&token=' resp = requests.get(url) if resp.status_code != 200: raise Exception('can not connect to consul ') text = resp.text serviceListData = json.loads(text) for serv in serviceListData: status = serv.get('Checks')[1].get('Status') if status == 'passing': # 选取成功的节点 address = serv.get('Service').get('Address') port = serv.get('Service').get('Port') serviceList.append({'port': port, 'address': address}) if len(serviceList) == 0: raise Exception('no serveice can be used') else: service = serviceList[randint(0, len(serviceList) - 1)] # 随机获取一个可用的服务实例 return service['address'], int(service['port']) def getServices(self): return self.consul.agent.services()
有了以上这段服务注册代码的实现,咱们再来看看入口代码中如何在启动服务时注入Consul,代码以下:
import os import sys from importlib import reload import tornado.web from tornado.ioloop import IOLoop from tornado.options import define, options, parse_command_line from apps.handlers.VehicleRoutingHandler import VehicleRoutingHandler from apps.handlers.HealthChecker import HealthChecker from utils.consul_client import ConsulClient reload(sys) def main(): # 读取项目配置 from conf.config import getConfig conf = getConfig() c = ConsulClient(conf.consul_address, conf.consul_port) service_id = conf.application_name + ":" + conf.ip + ':' + str(conf.server_port) # print(c.consul.agent.services()) name = conf.application_name address = conf.ip port = conf.server_port tags = [conf.consul_tags] interval = 5 httpcheck = conf.consul_healthCheckPath c.register(name, service_id, address, port, tags, interval, httpcheck) parse_command_line() app = tornado.web.Application( [ (r"/routing/vehiclePathPlan?", VehicleRoutingHandler), (r"/actuator/health", HealthChecker) ], cookie_secret="__TODO:_GENERATE_YOUR_OWN_RANDOM_VALUE_HERE__", template_path=os.path.join(os.path.dirname(__file__), "templates"), static_path=os.path.join(os.path.dirname(__file__), "static"), ) http_server = tornado.httpserver.HTTPServer(app) http_server.listen(conf.server_port) tornado.ioloop.IOLoop.current().start() if __name__ == "__main__": main()
能够看到上述代码经过配置获取了consul的地址及端口信息,并自定义了服务节点的serviceId、tags以及进行健康性检查时,Consul探测的服务接口地址的定义:
/actuator/health
咱们知道Consul与微服务之间须要经过健康性检查来作心跳,在Java中由于Spring Cloud依赖包已经替咱们实现好了这样的接口,而在Python中就须要咱们手工定义,如上述代码中咱们就定义了/actuator/health服务,并实现了其处理代码,很简单就是返回成功,以下:
import tornado.web class HealthChecker(tornado.web.RequestHandler): def get(self, *args, **kwargs): self.write("ok")
这样在服务注册到Consul以后,Consul就能够经过这个接口来与Python微服务之间经过发送心跳来探活了。此时,若是咱们在配置中制定Consul的地址,并启动Python微服务,就能够将其注入Consul了,如:
MacBook-Pro-2:routing guanliyuan$ python3 manage.py dev ['manage.py', 'dev'] dev [I 190529 00:37:35 web:2162] 200 GET /actuator/health (127.0.0.1) 1.38ms [I 190529 00:37:36 web:2162] 200 GET /actuator/health (127.0.0.1) 0.76ms [I 190529 00:37:37 web:2162] 200 GET /actuator/health (127.0.0.1) 0.58ms [I 190529 00:37:38 web:2162] 200 GET /actuator/health (127.0.0.1) 0.57ms
启动服务后,就能够看到Consul发过来的心跳请求了,此时若是咱们打开Consul的web控制台,也能看到服务成功的被注册到Consul上了,如:
以后该Python服务就能够像其余Java编写的微服务同样便可以经过api-gateway直接被前端调用,也能够经过FeignClient以负载均衡的方式被其余微服务调用了!
Python 多环境配置
这里再多给你们分享一点,就是咱们知道在Spring Cloud微服务中,咱们能够经过spring.profile.active这个参数来指定不一样环境的配置,从而实现多环境适配,而在Python中由于没有像Spring Boot这样的框架,因此咱们只能本身来实现了,例如,下面的配置代码就是给Python微服务实现的一个多环境配置的代码,以下:
import os import socket import manage class Config(object): # 默认配置 DEBUG = False hostname = socket.gethostname() ip = socket.gethostbyname(hostname) application_name = "routing" application_version = "1.0" server_port = 9090 # get attribute def __getitem__(self, key): return self.__getattribute__(key) class DevelopmentConfig(Config): # 开发环境 consul_address = "127.0.0.1" consul_port = "8500" consul_healthCheckPath = "http://127.0.0.1:9090/actuator/health" consul_tags = "dev" class ProductionConfig(Config): # 生产环境 consul_address = "127.0.0.1" consul_port = "8500" consul_healthCheckPath = "http://127.0.0.1:9090/actuator/health" consul_tags = "prod" # 环境映射关系 mapping = { 'dev': DevelopmentConfig, 'pro': ProductionConfig, 'default': DevelopmentConfig } # 根据脚本参数,来决定用那个环境配置 import sys def getConfig(): print(sys.argv) num = len(sys.argv) - 1 # 参数个数 if num < 1 or num > 1: exit("参数错误,必须传环境变量!好比: python xx.py dev|pro|default") env = "dev" # sys.argv[1] # 环境 print(env) APP_ENV = os.environ.get('APP_ENV', env).lower() return mapping[APP_ENV]() # 实例化对应的环境
这样咱们在启动python脚本时只须要传递对应的环境参数,也能够实现多环境的配置读取了,例如:
MacBook-Pro-2:routing guanliyuan$ python3 manage.py dev ['manage.py', 'dev'] dev
后记
以上就是关于Python微服务做为异构服务融入Spring Cloud体系的一些介绍了,在实际的场景中还会有诸如其余语言编写的微服务的场景,如Go!其基本思路相似,只是Java相对于其余语言来讲,因为其完整的开源生态,会简单不少!
推荐阅读:
Spring Cloud微服务中网关服务是如何实现的?(Zuul篇)