学习笔记 | 解析 Spark 数据处理与分析场景

数据处理场景 按照大数据的作业类型 在数据工程与数据科学中,很大一部分数据处理任务都可以被称为批处理(Batch Processing),所谓批处理,就是对数据进行批量处理,一次性对一定量的数据进行处理,根据数据量的大小,批处理从开始到结束的时间从数十秒到数小时都有可能,当然如果时间花费太长,还是会考虑优化、切分等,因为这样作业执行失败的成本太高了。 批处理任务的输入和输出通常都是一批数据,在数据
相关文章
相关标签/搜索