支付宝系统架构

支付宝系统架构概况

QQ20150605112628

典型处理默认

QQ20150605112641

资金处理平台

QQ20150605112653

财务会计

QQ20150605112701

支付清算

QQ20150605112710

核算中心

QQ20150605112730

交易

QQ20150605112751

柔性事务

QQ20150605112821

QQ20150605112834

QQ20150605112857

QQ20150605112909

QQ20150605112919

QQ20150605112929

QQ20150605112943

QQ20150605112954

QQ20150605113005

QQ20150605113016

支付宝的开源分布式消息中间件–Metamorphosis(MetaQ)

Metamorphosis (MetaQ) 是一个高性能、高可用、可扩展的分布式消息中间件,相似于LinkedIn的Kafka,具备消息存储顺序写、吞吐量大和支持本地和XA事务等特性,适用 于大吞吐量、顺序消息、广播和日志数据传输等场景,在淘宝和支付宝有着普遍的应用,现已开源。python

Metamorphosis是淘宝开源的一个Java消息中间件。关于消息中间件,你应该据说过JMS规范,以及一些开源实现,如ActiveMQ和HornetQ等。Metamorphosis也是其中之一。mysql

Metamorphosis 的起源是我从对linkedin的开源MQ–如今转移到apache的kafka的学习开始的,这是一个设计很独特的MQ系统,它采用pull机制,而 不是通常MQ的push模型,它大量利用了zookeeper作服务发现和offset存储,它的设计理念我很是欣赏并赞同,强烈建议你阅读一下它的设计 文档,整体上说metamorphosis的设计跟它是彻底一致的。可是为何还须要meta呢?sql

简单归纳下我从新写出meta的缘由:

1.Kafka是scala写,我对scala不熟悉,而且kafka整个社区的发展太缓慢了。数据库

2.有一些功能是kakfa没有实现,可是咱们却须要:事务、多种offset存储、高可用方案(HA)等apache

3.Meta相对于kafka特有的一些功能:缓存

  • 文本协议设计,很是透明,支持相似memcached stats的协议来监控broker
  • 纯Java实现,从通信到存储,从client到server都是从新实现。
  • 提供事务支持,包括本地事务和XA分布式事务
  • 支持HA复制,包括异步复制和同步复制,保证消息的可靠性
  • 支持异步发送消息
  • 消费消息失败,支持本地恢复
  • 多种offset存储支持,数据库、磁盘、zookeeper,可自定义实现支持group commit,提高数据可靠性和吞吐量。
  • 支持消息广播模式
  • 一系列配套项目:python客户端、twitter storm的spout、tail4j等。

所以meta相比于kafka的提高是巨大的。meta在淘宝和支付宝都获得了普遍应用,如今天天支付宝天天经由meta路由的消息达到120亿,淘宝也有天天也有上亿的消息量。架构

Meta适合的应用

  • 日志传输,高吞吐量的日志传输原本就是kafka的强项;
  • 消息广播功能,如广播缓存配置失效;
  • 数据的顺序同步功能,如mysql binlog复制;
  • 分布式环境下(broker,producer,consumer都为集群)的消息路由,对顺序和可靠性有极高要求的场景;
  • 做为通常MQ来使用的其余功能。

QQ20150605113032

QQ20150605113042

相关文章
相关标签/搜索