airflow调度原理及k8s调度原则

  Airflow     airflow是一个任务调度组件,主要是基于DAG(有向无环图)来定义整个工作流。他主要解决了crontab调度无法完成的任务依赖,网页服务,任务暂停等功能。并且airflow能够很好的支持python,spark,hive,k8s等 airflow架构 airflow包含以下组件: 元数据库(存储DAG) 执行器worker(负责执行task) 调度器sheduler
相关文章
相关标签/搜索