数据挖掘聚类算法之K

(2014-07-02 14:26:11)

记得前一篇博文写过关于K-MEANS的内容，K-MEANS顾名思义K-均值，通过计算一类记录的均值来代表该类，但是受异常值或极端值的影响比较大，这里介绍另外一种算法K-medodis。

看起来和K-means比较相似，但是K-medoids和K-means是有区别的，不一样的地方在于中心点的选取，在K-means中，我们将中心点取为当前cluster中所有数据点的平均值，在 K-medoids算法中，我们将从当前cluster 中选取这样一个点——它到其他所有（当前cluster中的）点的距离之和最小——作为中心点。

K-MEANS算法的缺点：
产生类的大小相差不会很大，对于脏数据很敏感。
改进的算法：K-medoids方法。

这儿选取一个对象叫做mediod来代替上面的中心的作用，这样的一个medoid就标识了这个类。

K-MEDODIS的具体流程如下：
1）任意选取K个对象作为medoids（O1,O2,…Oi…Ok）。　　
2）将余下的对象分到各个类中去（根据与medoid最相近的原则）；　　
3）对于每个类（Oi）中，顺序选取一个Or，计算用Or代替Oi后的消耗—E（Or）。选择E最小的那个Or来代替Oi。这样K个medoids就改变了。
4）重复2、3步直到K个medoids固定下来。　　
不容易受到那些由于误差之类的原因产生的脏数据的影响，但计算量显然要比K-means要大，一般只适合小数据量。