探寻繁杂定时任务的解决方案：分布式任务调度系统

导语：本文咱们从架构和技术实现上来为你们讲解腾讯云分布式任务调度系统TCT(Tencent Cloud Task)如何实现任务调度的精准实时、稳定高效，以及任务的切分和编排。（编辑：中间件小Q妹）

背景介绍

缘起缘灭，自有因果

首先, 咱们来思考一些几个业务场景：

• XX信用卡中心，每个月28日凌晨1:00到3:00须要完成全网用户当月的费用清单的生成。
• XX服饰，须要天天上午9:00开始向会员推送送生日祝福短信。
• XX游戏平台，新用户注册后，须要为当前用户生成定时任务， 在月底清算虚拟货币兑换的佣金额度。
• XX公司，须要定时执行Python脚本，清理掉某文件服务系统中无效的tmp文件。
• XX保险公司，须要天天凌晨2:00统计前一天新增保单数量，并触发报表生成任务，完成后抄送邮件。

相似上述批量处理海量定时任务的业务场景，在企业从单体架构向微服务架构、云化服务架构演进过程当中已经家常便饭，基于Quartz的常规调度框架没法应对这种分布式场景下的需求，既没法实现任务调度的精准实时、稳定高效，也没法实现任务的切分、编排、失败补充。所以企业迫切须要一款一站式分布式调度任务解决方案，帮助企业统一管理繁杂纷乱的定时任务，加强企业微服平台服务化能力，支撑企业云化服务转型。

现有的开源方案

它山之石能够攻玉 ...

在过往的发展中, 前人留下了很多优秀的方案, 各有利弊。常见开源产品: Quartz、XXL-Job、ElasticJob、Antares、SIA-TASK 等。

• Quartz：该框架应用最为普遍，其彻底基于Java实现，Quartz 对单个任务的控制基本作到了极致，以其强大功能和应用灵活性，成为开源任务调度领域的权威及同类开源产品如Antares的基石；
• XXL-JOB：一个轻量级分布式任务调度平台，其核心设计目标是开发迅速、学习简单、轻量级、易扩展。XXL-JOB 支持分片，支持简单任务依赖，支持子任务依赖，不支持跨平台的。
• Elastic-Job：支持任务分片（做业分片一致性），没有任务编排，不支持跨平台；
• SIA-TASK：具备跨平台、可编排、高可用、无侵入、一致性、异步并行、动态扩展、实时监控等特色。

开源方案的逻辑架构图

开源方案的技术实现图

从开源方案的逻辑架构和技术实现上，咱们也能直观的看出开源方案的不足：

• 架构方面：调度器职责划分不清晰、系统扩展性不足。面对大规模虚拟化&复杂的网络环境，简单的远程调用并不能完成胜任。
• 性能方面：ZooKeeper集群伴随任务量和高频事件的增多，成为系统性能瓶颈。简的远程调用或者任务拉取等方案, 知足不了量大频高的业务诉求。
• 功能方面：缺少完整认证鉴权方面的系统设计，安全性没法保障。任务干预、监控告警等系统运维方面能力较弱。

TCT简介

为了解决上述问题，咱们进行了深刻的探索，并设计出了一套企业级的分布式任务调度系统TCT（Tencent Cloud Task）。TCT提供一站式分布式调度任务解决方案，支持随机、广播多种任务类型，具有任务分片、任务编排能力，提供完善的监控告警体系。咱们结合了用户实际的业务场景，吸收了历史经验，主要解决了面几个核心问题：

以上核心要素，对系统的要求各不相同，可提供以下总结进行参考:

核心要素	功能说明	系统特性
任务触发	解析并计算任务的触发时点, 生成触发事件	CPU密集型
任务调度	承担任务派发规则, 管理任务运行生命周期	IO密集型
任务触达	承担任务事件的触达和获取, 管理任务执行信息的获取管道	网络IO型
任务执行	任务执行单元, 执行真实的业务逻辑	取决于业务场景

技术架构

架构, 老是在需求中不断演进...

技术架构图

下面咱们解释下架构图中的各个功能模块：

功能模块	描述说明
管控器(Admin)	用户控制台, 提供任务管理和干预界面, 配置任务运维指标等
触发器(Trigger)	解析任务, 生成触发事件
调度器(Scheduler)	分配任务, 管理任务运行生命周期
接入网关(AGW)	认证鉴权, 回话管理, 任务信息透传等
SDK / Agent	获取任务执行单元, 执行任务逻辑

功能架构

功能架构图 这样设计分布式任务调度系统，有如下几个优势：

优势一：模块化微服务架构设计, 职责清晰

触发器

• 只需根据任务执行规则，计算解析出不一样时点的任务触发事件。经过MQ的实现可靠性投递(后续文章会逐步讲解如何实现可靠性投递)，起到削峰填谷，避免高峰IO等问题, 提升吞吐量。
• 经过合理的分片策略和容灾策略，解决传统多节点锁竞争轮训的解析加载策略，下降对存储的压力。
• 冷热数据隔离加载机制，进一步下降对存储压力和系统开销。 根据高频的任务执行策略，采起预加载策略和动态调整预加载算法，解决高频触发致使系统负载高的问题。

调度器

• 整个任务调度系统中控制逻辑最为复杂的组件，IO密集型组件。
• 经过订阅MQ消息事件，与触发器解耦，有效提高系统的吞吐。 专一于任务调度的逻辑控制，如任务执行调度、负载均衡、容错、限流、计费等。

接入网关

• 独立承担客户端的接入认证和鉴权，提供有效的权限校验策略。
• 负责上下行信道的回话管理，与复杂的业务逻辑完成解耦。
• 客户端节点及服务节点上下线自动探测感知机制，有效实现会话管理。
• 数据透传及路由，实现组件内闭环。
• 配合SDK/Agent侧设计，有效避免了单节点链接数瓶颈以及服务节点冷起场景下的高并发tcp创建链接问题。

优势二：无状态化设计，简便水平扩展

触发器

经过有效的分片策略，在实现避免触发压力集中化的状况下，可快捷的完成服务的弹性扩缩容，实现近似无状态的水平扩展。

调度器

彻底无状态的设计方案，无需考虑任务的回源问题，实现无状态的水平扩容。

接入网关

彻底无状态的设计方案，可实现无状态的水平扩容，实现理论上TCP链接数无上限。

优势三：功能完备

灵活的触发规则

• 支持Cron表达式，例如 * 0/5 * * * ? 等。
• 特定周期频率的触发规则，例如 间隔36分钟等。

便捷的管理能力，提供暂停、恢复、中止、重试等多种多样的管控能力。

任务管理

支持三种执行方式

• 随机节点执行：选择集群中一个可用的执行节点执行调度任务。适用场景：定时对帐。
• 广播执行：在集群中全部的执行节点分发调度任务并执行。适用场景：批量运维。
• 分片执行：按照用户自定义分片逻辑进行拆分，分发到集群中不一样节点并行执行，提高资源利用效率。适用场景：海量日志统计。

任务调度执行方式

支持三种触发方式

• 手动触发：用户在任务管理列表选择特定任务手动执行一次，调度器当即进行任务分发，并产生一个执行批次。适用场景：周期执行任务补充。
• 周期触发：经过设置任务触发的间隔时间来设置任务的执行时间；可支持 cron 表达式所不支持的周期设置。适用场景：定时备份。
• 工做流触发：工做流是一组任务集合，能够编排任务的上下游逻辑依赖，进行任务触发。适用场景：海量数据处理，如数据采集，数据过滤，数据清洗，数据聚合的流程编排。

任务触发方式

日志溯源能力

经过日志服务, 方便用户查询任务执行日志。用户能够经过执行记录全部任务的执行批次详情，可以对当前状态为执行中的批次进行中止执行操做，可以对当前已经终止的批次触发从新执行操做；点击批次ID进入该批次的执行详情，点击任务ID进入该任务的执行批次列表，点击执行部署组进入资源详情列表。

日志查询

支持复杂的任务编排能力

能够实现多种场景的任务工做流。经过构建调度任务的上下游依赖关系完成复杂的任务调度逻辑。适用于大数据流程处理、任务执行工单、批量运维流程编排等应用场景。

任务编排

总结

一个平台性的系统，从产品功能到技术架构都存在着方方面面的挑战，须要层层抽象和逐步优化才能完成一个成熟产品落地。在大数据时代，面对海量的数据和用户规模，任何一种架构设计，都面临着网络响应、 容错、幂等、数据可靠性/一致性等诸多问题。

对于平台而言，任务的可靠性是第一优先级须要考虑的，次之任务执行的时效性。合理地进行功能模块化拆分，针对不一样场景，设计不一样的扩展方案，保证SLA的前提下提高系统总体吞吐，实现可靠有效触达，应对频高量大的业务场景。

对于用户而言，多样化的管理手段、多维度的运行指标查询， 全方位的链路监控则是用户追求的，只有让用户从复杂混乱的定时任务场景中抽离出来，才能更加专一在业务研发。

---

欢迎扫码关注咱们的微信公众号，期待与你相遇~

公众号不按期有赠书、抽奖（腾讯公仔/T桖）的活动，快来关注咱们并添加中间件小Q妹微信吧