spark处理一个不变的大文件和一个小文件的join

Spark程序可以通过分区来减少网络通信开销。分区并非对于所有场景都是有好处的：比如， 如果给定RDD只被扫描一遍，那么完全没有必要做分区， 只有当数据多次在诸如连接这种基于键的操作时，分区才会有帮助。 假设我们有一份不变的大文件userData, 以及每5分钟产生的小数据events, 现要求在每5分钟产出events数据后， userData对events做一次join操作。 该过程的代码示例

>>阅读原文<<