K-means算法的代码实现
作者： 李云龙门客栈
| 发布于: 修改于: | 雪球 | 转发：0 | 回复：0 | 喜欢：0 |
上一篇重点讲述了K-means算法的基本内容，接下来本章将分为以下三个部分
1 介绍K-means的手撸版
2 介绍如何使用scikit-learn中的工具包，以及对工具包中的各类参数进行解释
K-means代码手撸版
请参考我的github 网页链接
里面的z_kmeans文件，该文件快速实现了一个kmeans聚类测试，测试结果如下：
scikit-learn中的K-means使用介绍
上面介绍了简单的手撸版，目的是加深对基本算法原理的理解。在实际应用中，除非需要做一些特别的修改外，我们一般采用现成的工具包来实现。
接下来，我们来看一下scikit-learn中的k-means：
下面介绍一下主要的参数：
1、 X: 输入的样本集, mxn
2、n_clusters: 聚类数量即K值
3、init: 采用的初始化方法，包括kmeans++、random和ndarray(自选初始中心)。由于初始方法如果不好的话，可能会陷入局部最优。
kmeans++：大致逻辑为当选取第n个聚类中心时，距离当前n-1个聚类中的点被选为第n个聚类中心。当n=1时，也是随机选择。
random：随机方法
ndarray：采用自定义方法，即预先指定初始中心
4、random_state: 三种类型，即none/int/randomstate。如果传入int或randomstate对象，
那么每次重新运行程序时，可以实现情景复现，便于调试和观测
5、algorithm: auto/full/elkan, 计算过程中采用的算法。选用auto时，若是稀疏矩阵，则用full模式，否则用elkan模式。
在原始的计算K-means过程中，我们每轮迭代要计算所有的样本点到所有的质心的距离，这样会比较的耗时。我们可以利用三角不等式(即两边之和大于第三边，两边之差小于第三边)，来减少距离计算次数，从而提高运算效率。例如：x和u1、u2，当 2*D(x,u1) <= D(u1,u2)时，根本不需要计算D(x,u2)
6、max_iter: 最大迭代次数，当集合为非凸时，一般不容易收敛，因此需要设置最大迭代次数。
7、precompute_distance：提前计算好样本点和中心点的距离，这样可以提高运算效率，但会增加内存消耗。取值有auto/True/False，取auto时，若 n_samples * n_clusters > 12million，则选择False，否则用True.
8、n_init: 为降低初始化中心点对计算结果的影响，用不同的初始化质心运算n_init次，然后选择最好的一个。
9、tol: 判断中心是否收敛阈值，D(centers_old, centers_new) < tol 则认为中心没有变化
10、n_jobs: 并行计算数，若n_init>1且开启 n_jobs = -1，则会触发并行 ; 若n_jobs=1，则只有一个运行。
11、return_n_iter: 是否返回迭代计算次数
12、verbose: 是否开启详细模式，即打印计算细节
13、x_copy: 在计算过程中，原始数据是否发生修改。选择True时，计算过程直接拷贝，原始数据不发生修改
接下来我们来重现一下上面我们手工做的程序：
请参考我的github 网页链接
里面的scikit_kmeans文件，测试结果如下：
在下一个章节，我们将用kmeans算法进行行情状态划分，用来辅助交易~