Kmeans 聚类 及其python实现

主要参考   K-means 聚类算法及 python 代码实现    还有  《机器学习实战》 这本书，固然前面那个连接的也是参考这本书，懂原理，会用就好了。

一、概述

K-means 算法是集简单和经典于一身的基于距离的聚类算法

采用距离做为类似性的评价指标，即认为两个对象的距离越近，其类似度就越大。

该算法认为类簇是由距离靠近的对象组成的，所以把获得紧凑且独立的簇做为最终目标。

说白了就是无监督的聚类，你们都是同一个标注，或者没有标注，而后这一堆数据是一类，那一堆又是一类，你人为的设置好几个类，算法自动帮你分好各个类，只要每一个类的样本尽量的紧凑便可。

 

二、核心思想

经过迭代寻找 k 个类簇的一种划分方案，使得用这 k 个类簇的均值来表明相应各种样本时所得的整体偏差最小。

k 个聚类具备如下特色：各聚类自己尽量的紧凑，而各聚类之间尽量的分开。

 k-means 算法的基础是最小偏差平方和准则,

其代价函数是：

    

       式中，μc(i) 表示第 i 个聚类的均值。

各种簇内的样本越类似，其与该类均值间的偏差平方越小，对全部类所获得的偏差平方求和，便可验证分为 k 类时，各聚类是不是最优的。

上式的代价函数没法用解析的方法最小化，只能有迭代的方法。

 

三、算法步骤图解

下图展现了对 n 个样本点进行 K-means 聚类的效果，这里 k 取 2。

 

 

四、算法实现步骤

k-means 算法是将样本聚类成 k 个簇（cluster），其中 k 是用户给定的，其求解过程很是直观简单，具体算法描述以下：

1) 随机选取 k 个聚类质心点

2) 重复下面过程直到收敛  {

      对于每个样例 i，计算其应该属于的类：

        

      对于每个类 j，从新计算该类的质心：

         

  }

   

其伪代码以下：

******************************************************************************

建立 k 个点做为初始的质心点（随机选择）

当任意一个点的簇分配结果发生改变时

       对数据集中的每个数据点

              对每个质心

                     计算质心与数据点的距离

              将数据点分配到距离最近的簇

       对每个簇，计算簇中全部点的均值，并将均值做为质心

********************************************************

 

五、K-means 聚类算法 python 实战   

这个就是书上的代码。

需求：  对给定的数据集进行聚类

本案例采用二维数据集，共 80 个样本，有 4 个类。  

$ wc -l testSet.txt;head testSet.txt
80 testSet.txt
1.658985 4.285136
-3.453687 3.424321
4.838138 -1.151539
-5.379713 -3.362104
0.972564 2.924086
-3.567919 1.531611
0.450614 -3.302219
-3.487105 -1.724432
2.668759 1.594842
-3.156485 3.191137

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# Time    : 18-8-8 下午2:17
# Author  : dahu
# File    : kmeans2.py
# Software: PyCharm

#from :  https://www.cnblogs.com/ahu-lichang/p/7161613.html
import sys
reload(sys)
sys.setdefaultencoding('UTF-8')

from numpy import *
import matplotlib.pyplot as plt
# 加载数据
def loadDataSet(fileName):  # 解析文件，按tab分割字段，获得一个浮点数字类型的矩阵
    dataMat = []              # 文件的最后一个字段是类别标签
    fr = open(fileName)
    for line in fr.readlines():
        curLine = line.strip().split('\t')
        fltLine = map(float, curLine)    # 将每一个元素转成float类型
        dataMat.append(fltLine)
    return dataMat

# 计算欧几里得距离
def distEclud(vecA, vecB):
    return sqrt(sum(power(vecA - vecB, 2))) # 求两个向量之间的距离

# 构建聚簇中心，取k个(此例中k=4)随机质心
def randCent(dataSet, k):
    n = shape(dataSet)[1]
    centroids = mat(zeros((k,n)))   # 每一个质心有n个坐标值，总共要k个质心
    for j in range(n):
        minJ = min(dataSet[:,j])
        maxJ = max(dataSet[:,j])
        rangeJ = float(maxJ - minJ)
        centroids[:,j] = minJ + rangeJ * random.rand(k, 1)
    return centroids

# k-means 聚类算法
def kMeans(dataSet, k, distMeans =distEclud, createCent = randCent):
    '''
    :param dataSet:  没有lable的数据集  (本例中是二维数据)
    :param k:  分为几个簇
    :param distMeans:    计算距离的函数
    :param createCent:   获取k个随机质心的函数
    :return: centroids： 最终肯定的 k个 质心
            clusterAssment:  该样本属于哪类  及  到该类质心距离
    '''
    m = shape(dataSet)[0]   #m=80,样本数量
    clusterAssment = mat(zeros((m,2)))
    # clusterAssment第一列存放该数据所属的中心点，第二列是该数据到中心点的距离，
    centroids = createCent(dataSet, k)
    clusterChanged = True   # 用来判断聚类是否已经收敛
    while clusterChanged:
        clusterChanged = False;
        for i in range(m):  # 把每个数据点划分到离它最近的中心点
            minDist = inf; minIndex = -1;
            for j in range(k):
                distJI = distMeans(centroids[j,:], dataSet[i,:])
                if distJI < minDist:
                    minDist = distJI; minIndex = j  # 若是第i个数据点到第j个中心点更近，则将i归属为j
            if clusterAssment[i,0] != minIndex:
                clusterChanged = True  # 若是分配发生变化，则须要继续迭代
            clusterAssment[i,:] = minIndex,minDist**2   # 并将第i个数据点的分配状况存入字典
        # print centroids
        for cent in range(k):   # 从新计算中心点
            ptsInClust = dataSet[nonzero(clusterAssment[:,0].A == cent)[0]]   # 去第一列等于cent的全部列
            centroids[cent,:] = mean(ptsInClust, axis = 0)  # 算出这些数据的中心点
    return centroids, clusterAssment
# --------------------测试----------------------------------------------------
# 用测试数据及测试kmeans算法
if __name__ == '__main__':
    datMat = mat(loadDataSet('testSet.txt'))
    # print min(datMat[:,0])
    # print max(datMat[:,1])
    # print randCent(datMat,4)
    myCentroids,clustAssing = kMeans(datMat,4)
    print myCentroids
    # print clustAssing,len(clustAssing)

    plt.figure(1)
    x=array(datMat[:,0]).ravel()
    y=array(datMat[:,1]).ravel()
    plt.scatter(x,y, marker='o')
    xcent=array(myCentroids[:,0]).ravel()
    ycent=array(myCentroids[:,1]).ravel()
    plt.scatter( xcent, ycent, marker='x', color='r', s=50)
    plt.show()

运行结果：

 

代码不是特别的难，看下均可以看得明白，发现都有点不会numpy的操做了，里面有一些是基于numpy的 布尔型数组操做 ，要补一补。   第 04 章 NumPy 基础：数组和矢量计算

简单说下各个函数的做用：

loadDataSet ：加载数据的

distEclud ： 计算距离的，注释说是计算欧几里德距离，其实就是计算  每一个样本 到 每一个聚类质心的距离，这是用来肯定质心坐标的。

kMeans ： 主函数了，实现了kmeans 算法注释已经比较详细了，就再也不细说了。 书上后面还有一个对kmeans优化的地方，这里就不介绍了。