马宏艳,杨保银,彭仁杰
摘要:聚类算法是一种典型的无监督学习算法。本文分析了样本度量算法及类间的度量方法,机器学习中的聚类数据划分算法有k-平均算法、k-中心点算法,分析了两种算法的优缺点,最后说明算法在scikit-learn中的应用。
关键词:机器学习;聚类;划分方法
中图分类号:TP301 文献标识码:A
文章编号:1009-3044(2021)20-0009-02
Research on Clustering Data Partition Algorithm Based on Machine Learning
MA Hong-yan
(Information Engineering College, Longdong University, Qingyang 745000, China)
Abstract: Clustering Algorithm is a typical unsupervised learning algorithm. This paper analyzes the sample measurement algorithm and the measurement method between classes, The clustering data partition algorithm in machine learning includes k-something average algorithm and k-something central point algorithm. The advantages and disadvantages of the two algorithms are analyzed.
Key words: machine learning; clustering; partition method
機器学习分为四大块,分别是classification (分类),clustering (聚类), regression (回归), dimensionality reduction (降维)。对于一个样本特征x,预测其对应的属性值y,如果y是离散的,那就是分类,如果y是连续的实数,就是回归。对于一组样本特征S={x∈RD},没有对应的y, 要发掘这组样本在D维空间的分布,就是聚类问题。如果想用维数更低的子空间来表示原来高维的特征空间, 那么就是降维问题。
聚类分析在市场销售研究、模式识别、大数据分析以及图形图像处理等方面被广泛应用。在医疗中,聚类能够帮助医生分析已有患者病例从中发现不同的患者群;在精准扶贫的大数据中,根据已脱贫人员的实例获得对有相同致贫原因的贫困人员定制准确的脱贫措施。
聚类是一种重要的人类活动,也是数据挖掘中用来发现数据分布和模式的一项重要技术。将物理或抽象的集合分成相似的对象类的过程称为聚类[1](Clustering),同一类数据也称其为簇(Cluster),这些数据对象在簇内相似,簇间相异。
定义:给定一数据集合D={P1,P2,...,Pn},其中Pi(i=1,2,...,n)称为数据点(或对象),根据数据点间的相似程度将数据集合分成k组Ci(i=1,2,...,k)(也称为簇)的过程称为聚类。
1 聚类中样本度量方法
相异性度量标准的选择是一个聚类分析质量的关键,聚类算法是通过计算样本特征空间中的距离来衡量两个样本间的相异度[2],当两个样本相异较小(相似较大)时,距离值小,反之则大。
假设a和b是相应的特征向量,m是特征的维数,则计算距离度量常用的函数有几种:
(1) 明可夫斯基距离
a和b的明可夫斯基距离度量:
[d(a,b)=i=1m|ai-bj|r1r] (1)
当r=1时,转化为明可夫斯基距离的绝对值距离:
[d(a,b)=i=1m|ai-bj|] (2)
当r=2时,转化为明可夫斯基距离的欧氏距离:
[d(a,b)=i=1m|ai-bj|212] (3)
当r趋向于无穷大时,转化为切比雪夫距离:
[d(a,b)=max|ai-bi|(1≤i≤n)] (4)
在以上三种距离中,经常用的距离是欧氏距离,是因为对坐标系进行平移和旋转变换之后,其值不变,对象的结构和原来相似。
(2) 二次距离
二次型距离测度的形式:
[d(a,b)=(a-b)TA(a-b)12] (5)