社区发现

这是一次课程做业，实现有点粗糙。有更好的方案，欢迎交流。

咱们须要评估每两个用户之间的类似度，以此来发现社区。如今咱们以每对用户的共同关注人数量做为评估标准。

原始数据格式：

关注人_id:粉丝_1_id 粉丝_2_id

但愿获得的输出格式是

用户_id:类似的人_1_id 类似的人_2_id

 

使用两次mapreduce 过程

 

第一次

输入格式:followee_1_id:follower_1_id follower_2_id follower_3_id

map:将后面的粉丝两两配对，并输出。key为 id-id 的形式，value为1，表示这对用户有一个共同好友

reduce: 相似wordcount，将相同key的value加起来

第二次

map:读取并切分，好比将 A-B 4 分为 a b 4 和 b a 4

reduce:将同一键的值合并到列表中, 并按相反的顺序对其进行排序。而后输出格式是 User_2:Similiar_Person_1 Similiar_Person_2 ...

此处只排出前十人。

 

代码：

https://github.com/londist/Community-dectection

数据集：

Small scale dataset https://www.dropbox.com/s/ntzk80l5iiiuh50/Small%20Dataset.txt?dl=0 

Medium scale dataset https://www.dropbox.com/s/6sxnnadhxbyk7ho/Medium%20Dataset.txt?dl=0 

Large scale dataset https://www.dropbox.com/s/lrlgz50m88j6fpc/Large%20Dataset.txt?dl=0