10万级etl批量做业调度工具Taskctl之轻量级Web应用版

什么是批量做业:

批量处理是银行业整个信息后台最为重要的技术形态，也是银行核心信息资产数据的分享、传输、演化的重要技术手段。有调查指出，全球70%的数据是通过批量处理得以再次使用，可见批量处理在整个信息生态中的技术占比与重要性。

银行业通过多年的信息化建设，逐步创建起几十甚至几百个信息系统，其中，绝大多数系统后台都具有有不一样规模的做业批量处理，整体批量做业数已发展成几千到几万这样的一个庞大规模。随着大数据时代的到来，特别是在数据仓库、大数据平台的带动下，这样的规模还将快速发展，其批量做业数规模也必将产生数量级的增加变化。

银行面对如此多的系统、批量做业数以及可期的快速增加将来，让批量处理最为重要的技术-批量调度走向独立化、系统化、专业化以及平台化，是很是有必要的。批量调度不只是批量处理的动力中枢，也是整个批量处理的管理入口，所以，创建一个规范专业的批量做业调度技术平台，创建一个统一的批量做业调度运维管理平台，不只能够从架构层面优化企业整个后台批量体系，减小IT技术异构风险，为数据安全提供更可靠的技术保障，还能够加快具体系统构建速度，提高系统运维效率，下降运维风险。批量调度技术体系的专业化、平台化、统一化，不只是一个系统建设，更是银行IT基础设施平台的建设，为银行整个IT建设健康高效发展提供坚实的基础。

目前主要实现方式:

目前，因为银行内部缺少一款专业批量产品支撑，缺少必定的批量调度规范与标准，使银行内部几十上百个系统相关批量调度实时混乱。这种现象不只体如今银行不一样系统之间，甚至体如今同一系统的不一样建设周期之间。

应用系统内置，手工调度调度:

目前，在银行内有不少系统的后台批量处理，不管从后台调度层面，仍是前台应用层面，都与业务系统自己高度耦合，并且调度触发启动主要是靠人工发起。形成这种局面的缘由一方面是银行缺少统一的调度规范体系，另外一方面，站在整个应用系统的角度，批量调度自己比重不大。这种方案带来的直接后果体如今两个方面：

1.因高度耦合，扩展不易；

2.主要靠人工调度，相对较耗人力资源，并且因人工操做，可能会引入更多人为误操做的风险;

利用现有ETL工具的调度功能

随着银行信息化发展，特别是数据仓库的创建，并以此为基础创建的更多数据类、管理类系统，或多或少都在采用一些专业的ETL工具来实现批量处理，并结合工具自己的调度组件完成相应批量调度处理工做。

关于Taskctl Web应用版

=================

适合中小企业IT自动化类系统建设，如数据系统批量调度自动化、系统运维自动化、企业数据资产监控等等。

适合数据开发人员，大数据从业人员，运维人员学习了解批量做业调度技术

功能特性与受权

是TASKCTL 6.0下一个版本的预览版，具有TASKCTL6.0（官网最新发布版）功能和一些新特性（如工程级变量管理，做业分片执行，微批循环等）。免费受权规格以下表：

（备注：软件未注册，不能实现7*24h连续自动化运行，所以不能用于生产环境。）

应用简介

Taskctl在线应用版V1.2相比C/S应用端功能完整，并精简部分操做逻辑，适合初学者体验taskctl产品，也能做为中小项目生产应用。

安装环境

初识Taskctl-Web版

Taskctl Free应用版原型是在原有商用版Taskctl 6.0衍生扩展开发出的专门为批量做业调度自动化打造的一款彻底免费的轻便型敏捷调度工具。可为批量做业自动化调度者提供简单的方法来管理各种复杂做业的调度和监控管理。

Taskctl经过将企业内部复杂的做业调度依赖关系，进行灵活的统一编排和管理，带来史无前例的简单性。Taskctl采用全内存计算，基于全事件技术驱动，可简单、快速地对做业进行定义、编排和执行，并生成优化调度执行建议，从而负载均衡执行做业调度。

Taskctl做为敏捷批量调度的开拓者，产品设计从一开始就专门为整洁的体验而设计，并提供丰富、直观的用户界面，以简化常见的做业调度执行编排流程。

Taskctl-Web应用版遵循软件产品标准化的原则，以“专业、专一”为设计理念，结合 ETL 调度领域自身的特色，构建了一套直观易用的 ETL 控制容器调度设计、监控 、维护、管理平台 Taskctl-Web-Application 。

功能框架

经过上图能够了解到，Taskctl-Web版 是Taskctl 中客户端应用软件家族的重要一员。

有三大功能模块：

平台管理（ Admin ）：平台级T配W置信息管理。如网络节点管理，做业类型扩 展，工程管理，全局变量管理，调度元信息导入导出，用户及权限管理，消息接 口管理等。

做业设计（ Designer ）：做业调度元信息设计。如做业控制容器（定时器 / 做业流）的管理，做业关系、属性编辑，变量管理，做业组织模块管理等。

运行监控（ Monitor ）：做业运行监控维护平台。对设计好的调度元信息进行运行监控以及人工操做干预。对运行信息进行查询、统计、分析等。

软件获取方式

1. 去公众号: taskctl 回复内容 "领取" 或 "软件" 便可;
2. 百度网盘---提取码（97mk）;
3. 官网网站;
4. Taskctl Web应用版;

系统特性

在 Windows 桌面客户端的基础上， TASKCTL 从新构建了一套基于 web 浏览器的应用 taskctl-web-application 。它具备以下特性：

功能完整：实现了桌面客户端 Admin,Designer,Monitor 全部的功能（包括高级分析功能）

部署简单：采用安装程序一键部署应用，不须要部署额外的 web 容器

体验简介：从新优化图形操做体验，简化操做步骤

合理导向：从新组织了页面 UE，让每一个操做天然流畅

性能卓越：200k 带宽、单核处理器便可实现 10 个用户同时应用

稳定可靠：直接与调度服务核心通信，信息更直接可靠。

登陆界面

平台部署的时候，已经肯定了调度服务端信息。所以没必要再像桌面客户端同样须要输入调度服务端地址。

如上图所示：输入正确的用户名、密码点击“登陆”按钮，登陆成功后， Taskctl-Web-Application 将根据登陆用户进行一系列的初始化操做，加载基本的运 行信息。

主界面

成功登陆后，便可进入 taskctl-web-application 平台主界面。系统对各个组件进行了合理的初始化布局，以下图所示：

经过上图，咱们能够直观的看到 Taskctl-web-application 具有了传统 web 应用软件的 “街头 banner ”、 “顶部导航”，以及主框架区域。