一文让你完全了解大数据实时计算引擎 Flink

时间 2019-11-06

标签一文让你完全了解数据实时计算引擎 flink 繁體版

原文原文链接

前言

在上一篇文章你公司到底需不须要引入实时计算引擎？中我讲解了平常中常见的实时需求，而后分析了这些需求的实现方式，接着对比了实时计算和离线计算。随着这些年大数据的飞速发展，也出现了很多计算的框架（Hadoop、Storm、Spark、Flink）。在网上有人将大数据计算引擎的发展分为四个阶段。git

第一代：Hadoop 承载的 MapReduce
第二代：支持 DAG（有向无环图）框架的计算引擎 Tez 和 Oozie，主要仍是批处理任务
第三代：支持 Job 内部的 DAG（有向无环图），以 Spark 为表明
第四代：大数据统一计算引擎，包括流处理、批处理、AI、Machine Learning、图计算等，以 Flink 为表明

或许会有人不一样意以上的分类，我以为其实这并不重要的，重要的是体会各个框架的差别，以及更适合的场景。并进行理解，没有哪个框架能够完美的支持全部的场景，也就不可能有任何一个框架能彻底取代另外一个。github

本文将对 Flink 的总体架构和 Flink 的多种特性作个详细的介绍！在讲 Flink 以前的话，咱们先来看看 数据集类型 和 数据运算模型 的种类。sql

数据集类型

无穷数据集：无穷的持续集成的数据集合
有界数据集：有限不会改变的数据集合

那么那些常见的无穷数据集有哪些呢？缓存

用户与客户端的实时交互数据
应用实时产生的日志
金融市场的实时交易记录
…

数据运算模型

流式：只要数据一直在产生，计算就持续地进行
批处理：在预先定义的时间内运行计算，当计算完成时释放计算机资源

那么咱们再来看看 Flink 它是什么呢？微信

Flink 是什么？

Flink 是一个针对流数据和批数据的分布式处理引擎，代码主要是由 Java 实现，部分代码是 Scala。它能够处理有界的批量数据集、也能够处理无界的实时数据集。对 Flink 而言，其所要处理的主要场景就是流数据，批数据只是流数据的一个极限特例而已，因此 Flink 也是一款真正的流批统一的计算引擎。网络

Flink 提供了 State、Checkpoint、Time、Window 等，它们为 Flink 提供了基石，本篇文章下面会稍做讲解，具体深度分析后面会有专门的文章来说解。session

Flink 总体结构

从下至上：数据结构

一、部署：Flink 支持本地运行（IDE 中直接运行程序）、能在独立集群（Standalone 模式）或者在被 YARN、Mesos、K8s 管理的集群上运行，也能部署在云上。架构

二、运行：Flink 的核心是分布式流式数据引擎，意味着数据以一次一个事件的形式被处理。框架

三、API：DataStream、DataSet、Table、SQL API。

四、扩展库：Flink 还包括用于 CEP（复琐事件处理）、机器学习、图形处理等场景。

Flink 支持多种方式部署

Flink 支持多种模式下的运行。

Local：直接在 IDE 中运行 Flink Job 时则会在本地启动一个 mini Flink 集群
Standalone：在 Flink 目录下执行 bin/start-cluster.sh 脚本则会启动一个 Standalone 模式的集群
YARN：YARN 是 Hadoop 集群的资源管理系统，它能够在群集上运行各类分布式应用程序，Flink 可与其余应用并行于 YARN 中，Flink on YARN 的架构以下：

Kubernetes：Kubernetes 是 Google 开源的容器集群管理系统，在 Docker 技术的基础上，为容器化的应用提供部署运行、资源调度、服务发现和动态伸缩等一系列完整功能，提升了大规模容器集群管理的便捷性，Flink 也支持部署在 Kubernetes 上，在 GitHub 看到有下面这种运行架构的。

一般上面四种居多，另外还支持 AWS、MapR、Aliyun OSS 等。

Flink 分布式运行

Flink 做业提交架构流程可见下图：

一、Program Code：咱们编写的 Flink 应用程序代码

二、Job Client：Job Client 不是 Flink 程序执行的内部部分，但它是任务执行的起点。 Job Client 负责接受用户的程序代码，而后建立数据流，将数据流提交给 Job Manager 以便进一步执行。执行完成后，Job Client 将结果返回给用户

三、Job Manager：主进程（也称为做业管理器）协调和管理程序的执行。它的主要职责包括安排任务，管理 checkpoint ，故障恢复等。机器集群中至少要有一个 master，master 负责调度 task，协调 checkpoints 和容灾，高可用设置的话能够有多个 master，但要保证一个是 leader, 其余是 standby; Job Manager 包含 Actor system、Scheduler、Check pointing 三个重要的组件

四、Task Manager：从 Job Manager 处接收须要部署的 Task。Task Manager 是在 JVM 中的一个或多个线程中执行任务的工做节点。任务执行的并行性由每一个 Task Manager 上可用的任务槽（Slot 个数）决定。每一个任务表明分配给任务槽的一组资源。例如，若是 Task Manager 有四个插槽，那么它将为每一个插槽分配 25％的内存。能够在任务槽中运行一个或多个线程。同一插槽中的线程共享相同的 JVM。同一 JVM 中的任务共享 TCP 链接和心跳消息。Task Manager 的一个 Slot 表明一个可用线程，该线程具备固定的内存，注意 Slot 只对内存隔离，没有对 CPU 隔离。默认状况下，Flink 容许子任务共享 Slot，即便它们是不一样 task 的 subtask，只要它们来自相同的 job。这种共享能够有更好的资源利用率。

Flink API

Flink 提供了不一样的抽象级别的 API 以开发流式或批处理应用。

最底层提供了有状态流。它将经过 Process Function 嵌入到 DataStream API 中。它容许用户能够自由地处理来自一个或多个流数据的事件，并使用一致性、容错的状态。除此以外，用户能够注册事件时间和处理事件回调，从而使程序能够实现复杂的计算。
DataStream / DataSet API 是 Flink 提供的核心 API ，DataSet 处理有界的数据集，DataStream 处理有界或者无界的数据流。用户能够经过各类方法（map / flatmap / window / keyby / sum / max / min / avg / join 等）将数据进行转换或者计算。
Table API 是以表为中心的声明式 DSL，其中表可能会动态变化（在表达流数据时）。Table API 提供了例如 select、project、join、group-by、aggregate 等操做，使用起来却更加简洁（代码量更少）。
你能够在表与 DataStream/DataSet 之间无缝切换，也容许程序将 Table API 与 DataStream 以及 DataSet 混合使用。
Flink 提供的最高层级的抽象是 SQL 。这一层抽象在语法与表达能力上与 Table API 相似，可是是以 SQL查询表达式的形式表现程序。SQL 抽象与 Table API 交互密切，同时 SQL 查询能够直接在 Table API 定义的表上执行。

Flink 程序与数据流结构

一个完整的 Flink 应用程序结构就是如上两图所示：

一、Source：数据输入，Flink 在流处理和批处理上的 source 大概有 4 类：基于本地集合的 source、基于文件的 source、基于网络套接字的 source、自定义的 source。自定义的 source 常见的有 Apache kafka、Amazon Kinesis Streams、RabbitMQ、Twitter Streaming API、Apache NiFi 等，固然你也能够定义本身的 source。

二、Transformation：数据转换的各类操做，有 Map / FlatMap / Filter / KeyBy / Reduce / Fold / Aggregations / Window / WindowAll / Union / Window join / Split / Select / Project 等，操做不少，能够将数据转换计算成你想要的数据。

三、Sink：数据输出，Flink 将转换计算后的数据发送的地点，你可能须要存储下来，Flink 常见的 Sink 大概有以下几类：写入文件、打印出来、写入 socket 、自定义的 sink 。自定义的 sink 常见的有 Apache kafka、RabbitMQ、MySQL、ElasticSearch、Apache Cassandra、Hadoop FileSystem 等，同理你也能够定义本身的 sink。

Flink 支持多种扩展库

Flink 拥有丰富的库来进行机器学习，图形处理，关系数据处理等。因为其架构，很容易执行复杂的事件处理和警报。

Flink 提供多种 Time 语义

Flink 支持多种 Time，好比 Event time、Ingestion Time、Processing Time，后面的文章 Flink 中 Processing Time、Event Time、Ingestion Time 对比及其使用场景分析中会很详细的讲解 Flink 中 Time 的概念。

Flink 提供灵活的窗口机制

Flink 支持多种 Window，好比 Time Window、Count Window、Session Window，还支持自定义 Window。后面的文章如何使用 Flink Window 及 Window 基本概念与实现原理中会很详细的讲解 Flink 中 Window 的概念。

Flink 并行的执行任务

Flink 的程序内在是并行和分布式的，数据流能够被分区成 stream partitions，operators 被划分为 operator subtasks; 这些 subtasks 在不一样的机器或容器中分不一样的线程独立运行；operator subtasks 的数量在具体的 operator 就是并行计算数，程序不一样的 operator 阶段可能有不一样的并行数；以下图所示，source operator 的并行数为 2，但最后的 sink operator 为 1：