【互动问答分享】第17期决胜云计算大数据时代Spark亚太研究院公益大讲堂

 

“决胜云计算大数据时代”

Spark亚太研究院100期公益大讲堂 【第17期互动问答分享】

 

Q1：为了加快spark shuffle 的执行速度是否能够把spark_local_dirs 指向一块固态硬盘上面，这样作是否有效果。

• 能够把spark_local_dirs指向一块固态硬盘上面,这样会很是有效的提高Spark执行速度；

• 同时想更快的提高Spark运行速度的话能够指定多个Shuffle输出的目录，让Shuffle并行读写磁盘；

Q2：solidation=true只是在同一机器上进行合并对吧

• solidation=true是在同一台机器上进行合并；

• 当进行合并的时候会把属于同一个Reducer的bucket放入同一个文件，这回极大的减小Shuffler文件的数量，提高性能；

Q3：将来spark与hadoop会共存吗

• Spark和hadoop会共存， Spark+Hadoop= A winning  combination；

• 并存的时候，Hadoop主要使用HDFS进行数据存储，Spark负责对大数据一体化多元化的计算；