spark算子调优二:foreachPartition优化数据库操做

在生产环境中,一般使用foreachPartition算子来完成数据库的写入,经过foreachPartition算子的特性,能够优化写数据库的性能。数据库 若是使用foreach算子完成数据库的操做,因为foreach算子是遍历RDD的每条数据,所以,每条数据都会创建一个数据库链接,这是对资源的极大浪费,所以,对于写数据库操做,咱们应当使用foreachPartition算子。函数 与mapPa
相关文章
相关标签/搜索