CMDC：一种差异互补的迭代式多维度文本聚类算法

黄瑞章，白瑞娜，陈艳平，秦永彬，程欣宇,3，田有亮

（1.贵州大学计算机科学与技术学院，贵州 贵阳 550025；2.贵州省公共大数据重点实验室，贵州 贵阳 550025；3.贵州省智能人机交互工程技术研究中心，贵州 贵阳 550025）

1 引言

文本聚类，旨在按照文本的相似性自动挖掘文本的结构，是文本挖掘的重要任务，被众多应用所关注[1]。传统的文本聚类多从单一的文本内容维度出发，根据文本内容中的语义特征来挖掘文本数据集的结构关系。随着互联网和数据分析技术的发展，文本数据的表示逐渐从传统单一的内容维度向立体的多维度发展[2]。例如，互联网环境中的新闻文本数据，除表示为以词向量为代表的传统内容维度以外，还可表示为新闻文本的主题维度（如新闻用词所涵盖的主题），以及新闻文本在互联网传播过程中获得的传播行为维度（如新闻的转发用户、阅读用户、点赞用户等）；研究类论文的文本数据除表示为传统的内容维度以外，还可被描述为论文的研究行为维度，包含论文自身、引用论文和被引论文的作者等。这些多维度文本数据较传统的表示方式更为全面立体，如何有效利用文本的多维度数据来分析挖掘文本数据集的结构，为传统文本聚类问题带来了新的机遇和挑战。

多维度文本聚类可联合利用多个维度的信息改善单维度信息在文本聚类上的局限，为文本聚类带来了机遇。在实际的多维度文本聚类过程中，数据的多个维度特征对文本结构的发现有互补作用，传统文本内容维度中表现不佳的数据在其他维度可能获得更好的聚类结果。例如，在面向研究类论文的文本聚类问题中，同领域的研究论文涉及的具体研究细节不同，使论文中的内容和用词不尽相同，这导致相同领域的论文在传统文本内容表达维度中具有较大的差异，难以被划分到同一个聚类分组中。然而在论文的研究行为维度，这些论文普遍被同一批学者所关注，更倾向于被划分到同一类簇中。相似地，在新闻领域的文本聚类中，被相似人群关注的新闻一般具有相似的主题，但这些新闻文本聚类的内容表示往往因作者写作风格或新闻事件演变等原因存在差异，增加了新闻文本聚类的难度。

除了机遇，文本的多维度表示亦为文本聚类带来挑战。其中，多维度文本聚类的一个核心问题是如何从文本在多个维度的表示中获得一致的聚类结果。由于文本在不同维度上的表示具有差异性，使文本在维度上的距离测量不一致，导致各维度的聚类划分不一致。文本表示的差异性主要表现在以下2 个方面：1)不同维度的文本表示中特征的含义不同，例如，新闻内容维度特征主要反映新闻的主题，新闻评论维度特征反映用户对新闻的态度，新闻行为维度特征反映新闻内容的传播受众群体；2)文本表示中的关键特征与噪声特征的分布不同，例如新闻的主题维度中的噪声信息相对较少，但新闻的内容维度中普遍包含大量的噪声信息，关键特征在距离测量中的贡献容易被噪声特征淹没，且各关键特征对距离度量的贡献各异。因此，如何有效利用多维度文本聚类的互补特性，设计合理的多维度文本聚类算法以弥补多维度聚类结果差异的问题，非常值得研究。

对于不同维度聚类结果不一致的问题，目前多维度文本聚类算法大多采用首先对各维度进行融合表示学习，在此基础上利用传统的单维度聚类实现文本聚类的整体划分，维度表示过程与聚类过程被分割成2 个独立的步骤，无法利用多维度聚类的互补特点指导各维度特征的贡献。针对以上问题，本文构建一种差异互补的迭代式多维度文本聚类算法——CMDC（complementary multi-view document clustering）算法，使多维度文本聚类过程与文本维度特征的调整互相促进，利用多维度文本的互补特性弥补多维度文本聚类的划分的差异，实现聚类与特征调整过程的统一优化。本文需要解决3 个问题，具体如下。

1) 如何从聚类划分中获取互补文本，即在维度类簇中聚类意见不一致的文本数据。由于各维度聚类类簇含义不同，不能简单地认为在各维度聚类结果中未被划分到同标签类簇的文本为互补文本。因此，如何挑选维度间的互补文本是本文需要解决的问题。

2) 如何利用互补文本促进聚类的特征调优。各维度聚类类簇关注的关键特征不同，需要有效利用互补文本改善各维度的特征在聚类过程中的贡献，使互补文本在文本的多个维度中呈现一致的聚类结果。

3) 如何使维度特征调优与聚类划分共同优化。区别于传统多维度文本聚类算法，本算法将设计聚类划分与维度特征调优的共同优化，利用维度间的互补文本帮助聚类划分与维度特征的调优互相迭代促进。

对互补文本的获取问题，CMDC 算法通过文本对的聚类结果一致性（即是否同属一个类簇）来判断文本对在不同维度中的聚类意见，并设计了一个可信因子综合考虑当前及其他维度中文本对的聚类结果，评估文本对在当前聚类结果的可信程度。基于互补文本，CMDC 算法以维度的度量一致性来解决多维度文本聚类的划分一致性问题，通过度量学习调整维度特征对聚类的贡献，在此基础上本文提出了基于度量学习的约束文本聚类算法，为各维度的每个类簇设计了独立的度量矩阵，利用互补文本调节各类簇的度量计算方法，解决因文本差异性造成的维度和类簇间的度量差异。在基于度量学习的约束文本聚类中，设计了聚类与度量学习的共同优化目标函数，面向互补文本实现聚类结果与度量学习的共同调优。最终，令互补文本挑选及基于度量学习的约束文本聚类算法迭代进行，互相促进，提升各维度间聚类结果的一致性。本文采用2 个真实的数据集进行验证，并与多个先进多维度文本聚类算法进行对比。从实验结果来看，CMDC 算法可有效地利用多维度数据的互补性改善多维度文本的差异性问题，聚类结果有明显提升，验证了算法的有效性。

2 相关工作

多维度聚类旨在通过对可用的多维度特征信息进行组合，以在不同维度之间搜索一致的聚类分配，将相似的主题分到同一类簇中[3]。多维度聚类问题提出[4]以来，相关算法受到了广泛关注，并运用于文本挖掘和信息检索等领域。目前，大多算法都是直接关注聚类目标，通过优化算法寻求最佳的聚类解决方案。与聚类算法类似，多维度聚类也分为不同维度的特征表示学习和聚类2 个阶段。以是否将2 个阶段融合为标准，现有算法被分为2 类。最具有代表性的是利用典型相关分析（CCA,canonical correlation analysis）将多维度数据投影到低维空间融合[5]进行聚类。文献[6]针对2 个维度的数据，基于协同训练思想提出了使用某一维度的拉普拉斯算子的特征向量对样本进行聚类，然后利用聚类结果来修正另一维度中的拉普拉斯算子，直到得到具有足够结构信息的特征向量，并将其作为下游聚类算法（k-means 或谱聚类等）的输入。该团队又从最小化数据不同维度的预测函数出发，将拉普拉斯图的特征向量矩阵作预测函数，提出了2 种基于协同正则化的多维度谱聚类算法[7]。将数据的多维度信息作为子空间特征，为了使多个子空间获得一致的聚类结果，文献[8]通过强制最小化每对子空间系数矩阵来获得共享公共系数矩阵。近年来随着神经网络深入各个领域，基于深度学习框架的多维度聚类算法也不容忽视。文献[9]和文献[10]都采用基于深度学习的框架来学习不同维度间的特征表示，进行融合后再运用图聚类或子空间聚类等方法得到聚类结果。为了改善多维度聚类算法两阶段的断层，逐步出现了统一特征表示和聚类两阶段的多维度聚类算法。文献[11]将图片的每种类型的特征视为一个维度，提出了通过统一不同维度（即图像特征）来学习共享的图拉普拉斯矩阵的多模态光谱聚类（MMSC,multi-modal spectral clustering）算法，并直接求解聚类指标矩阵。文献[12]提出改进的低秩表示模型，可对维度特征空间中的局部数据流形结构进行建模，基于谱聚类实现多维度协议的共同优化。在多维度深度聚类的最新研究中，文献[13]改进单维度深度嵌入聚类（DEC,deep embedding for clustering analysis）模型[14]，利用文本聚类的结果来调整多维度融合参数。文献[15]运用多维度聚类解决对话意图来学习任务，提出了同时学习多维度特征表示和优化聚类的算法。目前，统一特征表示和聚类两阶段的多维度聚类算法中尚处于摸索阶段，聚类过程与特征表示过程虽然被同步优化，却忽视了多维度文本数据的差异性表示，未考虑利用具有争议的聚类文本改进聚类结果的不一致问题。

聚类算法（如k-means 算法）依赖于底层距离函数，针对由多个维度表示组成的高维稀疏的文本数据，通常采用的距离函数或手动调整的度量方式显然是不适用的。文献[16]提出距离度量学习算法寻求在半监督或完全监督的设置中自动优化距离函数，其学习目标是优化反映当前问题领域特定概念的距离函数。文献[17]在文献[16]的基础上提出了基于无监督自适应度量学习算法，同时执行聚类和度量矩阵学习。文献[18]针对度量方式提出了一种非线性度量学习算法，通过学习非参数核矩阵来学习完全灵活的距离度量并用到聚类中。文献[19]也给出了运用到图像、分类等任务上的度量学习算法的实证评估，并指出使用依赖成对约束的度量算法可以产生与有监督算法相当的实验效果。然而，上述基于度量学习的算法都是面向单维度数据的，其约束对或者标签数据都来自于数据自身。在多维度文本数据的聚类上，文献[20]将文本数据中其他维度信息与文本维度聚类相结合，文献[21]则使用了基于辅助数据约束的度量学习算法用于聚类，但这些算法在融入其他维度信息时也带入了文本噪声。

3 模型设计

3.1 符号与术语

本文使用的数据集中都是文本数据，为了方便数据及问题的描述，给出如下定义。

3.2 CMDC 算法的整体设计

CMDC 算法利用多维度文本数据的互补性解决因多维度文本数据的差异性带来的聚类效果低下的问题。CMDC 算法通过识别各维度聚类结果中的互补文本数据来评估这些互补文本数据中的低质量聚类维度，应用于后续的文本聚类过程。在聚类过程中，为各个维度的每个类簇设计了一个度量矩阵，并自动地利用互补文本来调节，使互补文本在多个维度的度量具有相似的结果，以提升多维度文本聚类结果的一致性，最终实现多维度文本聚类整体效果的提升。CMDC 算法的具体过程如图1 所示。

CMDC 算法包含2 个关键组成部分，分别为互补文本挑选和约束文本聚类。互补文本挑选旨在自动学习每个维度m聚类结果中不一致的文本数据。本文以文本对(x i,xj) （i,j=1,2,…,|D|）来评估聚类结果的一致性，若xi和xj在每个维度结果中都被分配到或都未被分配到同一类簇中，则认为xi和xj的聚类意见一致，否则xi和xj在部分维度中属于同一类簇，在其他维度中被分配到不同的类簇，则(xi,xj)为互补文本。互补文本挑选为每个文本维度自动学习互补文本集Cm，其中包含在维度m中聚类质量可信度低的互补文本。互补文本集Cm将被加入后续的约束文本聚类过程中，对文本聚类进行约束，学习聚类过程中的合理距离度量。通过为各维度的每个类簇k学习不同的局部度量矩阵(i=1,…,|Vm|)，来调整各维度中各类簇中各特征的贡献权重，使关键特征在相似度测量中的贡献权重更高，并相应地降低噪声特征的影响，最终令互补文本集mC中的文本对在约束文本聚类过程的度量一致，改善聚类结果。约束文本聚类为各维度学习新的聚类分配结果和局部度量矩阵，各聚类分配用于辅助下一轮互补文本挑选。在CMDC 算法过程中，互补文本挑选与约束文本聚类互相促进，循环迭代直至聚类的结果收敛或互补文本的数量达到设置上限，CMDC 算法过程停止。聚类停止后，挑选互补文本最少的维度输出作为聚类的整体结果。

3.3 互补文本挑选

互补文本挑选重点考虑与维度间聚类结果不一致的文本对(x i,xj)。通过设计可信因子λ(xi,xj)m来估算文本对(x i,xj)在维度m中的聚类可信度，该因子对(x i,xj)当前维度和其他维度的聚类被分配到同一类簇的概率差异进行对比。为减少计算量，首先选取在维度m不属于同一类簇中，但在其他维度中均属于同一类簇的文本来计算λ(xi,xj)m，如式(1)所示。

λ(xi,xj)m的值越小，文本对(x i,xj)m在不同维度间的聚类结果的差异越大，(x i,xj)m在维度m的聚类结果中被归属于同一个类别的概率越低，在除m以外的其他维度被聚到同类簇的概率越高，则文本对在维度m的聚类可信度越低。因此，通过置信阈值选取λ(xi,xj)m值合理小的文本对。设置阈值τ，并选取λ(xi,xj)m＜τ的那些文本对Cm加入后续的约束文本聚类中。

3.4 约束文本聚类模块

该模块由约束文本聚类算法构成。针对每一个维度m，互补文本对抽取模块依赖前序的文本聚类结果，自动学习互补文本集合Cm，互补文本(x i,xj)m∈Cm在单维度的聚类中结果较差。在约束文本聚类中，提出利用Cm改善维度m的聚类结果。在此过程中，需要计算文本与文本之间、文本与类簇质心之间的距离。由于余弦相似计算无法区分特征在距离计算中的贡献，本文在聚类过程中引入度量学习来进行调整。文本xm与类簇质心之间的度量余弦相似如式(3)所示。

其中，Ωm表示当前维度m的聚类目标，评估当前聚类的总体结果质量；Φm表示约束目标，评估当前维度的互补文本的符合情况。这2 个部分以参数α进行线性连接。Ωm测量Dm中所有的文本数据到其分配类簇的距离，对所有的文本数据以及类簇的质心进行归一化处理后，Ωm的计算如式(5)所示。

Φm是约束目标，此目标计算互补文本集Cm的符合度。判断在互补文本集Cm中的文本对是否在聚类中被划分到一个类别中，若否，则对文本对进行惩罚。以文本对的λ(xi,xj)m结果计算惩罚的程度，具体计算方法如式(6)所示。

其中，Sx表示文本x所属的类簇；δ表示指示函数，δ(true)=1，δ(false)=0。

本文采用循环迭代机制来计算式(4)所示目标函数的最优解，如算法1 所示。

算法1约束文本聚类算法

输入数据集D、文本维度m

输出Dm对应的类簇质心、度量矩阵

1) 初始化类簇起始点。

2) 给定聚类的类簇质心点，根据式(3)计算当前维度的文本到各类簇质心的相似度，选择相似度最高的类簇分配文本数据。

3) 给定聚类分配。

4) 更新各类簇的质心表示。

6) 跳转到2)重复直至收敛。

其中，类簇质心根据被分配的所有文本进行更新，计算方法如式(7)所示。

4 实验

4.1 数据集及评估方法

实验使用2 个真实数据集以验证CMDC 算法的有效性。第一个真实数据集是英文论文数据集AMiner。此数据集包含3 个类簇，每个文本表达为2 个维度，其中，以论文的摘要作为摘要维度，以论文的作者及参考文献的第一作者作为用户维度。本文爬取同一时期微博、百度和头条新闻等数据源4 个重要新闻话题的热点新闻，构成一个多源热点新闻数据集（MHN,multi-source hot news），作为实验的第二个数据集。MHN 共涉及3 个维度，包含从新闻的正文中提取的正文维度、从新闻的标题中提取的关键内容作为标题维度，以及利用主题模型LDA（latent Dirichlet allocation）提取的主题维度。从数据维度的构成上来看，AMiner 数据集的差异性大于MHN 数据集。表1展示了数据集的详细信息。

表1 数据集信息

本文使用归一化互信息指标（NMI,normalized mutual information）来评价实验的聚类效果，其计算式如式(9)所示。

其中，R={r1,r2,…,rk}表示算法聚类后的簇集合，S={s1,s2,…,sj}表示标准的聚类标签；I(R;S)=H(R)−H(R|S)表示随机变量间的互信息，H(R)表示R的熵，H(R|S)表示给定S时R的条件熵。NMI的取值范围为[0,1]，该值越大说明聚类效果越好。

4.2 实验参数设置

针对AMiner 数据集，考虑用户维度覆盖学者和其所研究的领域（即摘要维度）具有一定的一致性，因此利用用户维度映射得出的表示也具有与摘要维度相同的意义，可以进行降维，达到更好的提炼特征的效果。本文结合深度学习特征的表现方式，将AMiner 数据集提取的用户维度的特征映射到摘要维度，训练关于用户信息的嵌入（embedding）模型并以此来提取用户维度的特征表示。而对MHN 数据集的标题维度，本文则选用了包含语义信息的BERT（bidirectional encoder representation from transformer）模型[22]做文本表示，使输入增加语义信息。2 个数据集的其他维度都使用原始的词频向量表示。

对于3.2 节中CMDC 算法的停止条件，本文设置互补文本集数量上限为12 000；对于3.3 节中互补文本挑选模块中的参数，设置置信阈值τ∈（0,1）。为了更完善地捕获多维度数据的互补性，通过对实验涉及的 2 个数据集进行统计分析，将{λ(xi,xj)m;(x i,xj)m∈C m,i≠j} 的第三、四分位数设置为当前维度阈值τ（针对不同的数据集特性，该算法需要根据自身任务及经验设置合适的参数，为获得足够数量的互补文本，阈值τ可进行放大）。在本文的实验中，AMiner 数据集的摘要维度和用户维度均设置为0.08，MHN 的标题维度、正文维度以及主题维度设置为0.52。

为使当前维度的聚类目标和约束目标同时发挥作用，实验中，对于式(4)所示的目标函数，本文设置α=0.5。

4.3 对比实验及结果分析

CMDC 算法的本质是采用质量互补文本挑选模块及基于度量学习的约束文本聚类模块迭代进行的，利用多维度文本数据的维度互补性来弥补文本数据在单个维度聚类过程中质量的不足，最终提升各维度间聚类结果的一致性。本文通过2 个数据集共记5 个维度进行分析，从单维度和多维度2 个方面对CMDC 算法进行对比；除此之外，还对CMDC 算法的互补性和一致性进行了探究。

4.3.1 单维度聚类实验

为验证质量互补文本挑选和基于度量学习的约束文本聚类的作用，本文选取了几种对比算法，具体如下。

1) k-means 算法。该算法是传统无监督聚类，作为单维度聚类性能比较的基线方法；

2) MTCUBC[21]（multi-dimensional text clustering with user behavior characteristics）算法。该算法是基于辅助维度的约束信息单向进行基于度量学习的约束文本聚类算法。

实验设置互补文本对的数目为12 000 条，3 种算法的单维度聚类性能如表2 所示，CMDC算法在所有的维度上都高于 k-means。相比于MTCUBC 算法，在除MHN 数据集的正文维度之外的其他4 个维度上，CMDC 算法分别有0.035、0.117、0.062 和0.135 的提升。同时也分析了不同数据集的提升差异，从k-means 算法的聚类效果可以看出，AMiner 数据集中2 个维度的聚类效果差距较小，而MHN 数据集中不同维度间的差异性虽然较低，但是各维度的性能相差高达0.3。因而在CMDC 算法过程不同维度相互迭代、相互促进的过程中，AMiner 数据集的2 个单维度性能都得到了提高；而在MHN 数据集的3 个维度中，标题维度和主题维度的性能都有了较大的提升，而这种提升在整个CMDC 算法中是以正文维度性能小提升（基于基线方法）为代价的，因此在正文维度，CMDC 算法的性能略低于MTCUBC算法。也正是出于对度量差异的极度不平衡性（而非来源差异性）的考虑，本文在数据预处理阶段添加了语义嵌入来降低这种不平衡。在单维度聚类的对比实验中，CMDC 算法在4 个维度上取得了最好的效果。从CMDC 算法和MTCUBC 算法的差异而言，充分说明本文设计的互补文本集学习策略在聚类过程中是有效的。

表2 单维度聚类性能NMI

4.3.2 多维度聚类实验

针对多维度数据差异性和互补性2 个特点，除了基线方法外，本文选取了多种算法进行对比。

1) Mv+k-means。对多维度信息进行无差别拼接组合后进行k-means 聚类，作为多维度聚类基线方法。

2) P-MLRSSC 和 C-MLRSSC 。MLRSSC（multi-view low-rank sparse subspace clustering）[23]系列算法通过构造亲和力矩阵，学习多维度之间共享的联合子空间表示来改善多维度文本的差异性问题，本文选取了适用于当前数据集的2 个算法：P-MLRSSC（pairwise MLRSSC）、C-MLRSSC（centroid MLRSSC）用于对比，参数设置请见文献[23]。

3）MSC_IAS （multi-view subspace clustering with intactness-aware similarity）。为充分利用多维度数据的互补性，Wang 等[24]提出通过集成编码的补充信息来学习完整空间，记为MSC_IAS。实验设置参数如下。AMiner 数据集：k=30，d=600。MHN数据集：k=6，d=1 500。参数释义请见文献[24]。

同样设置互补文本对的个数为1 2000 条来验证CMDC 算法在多维度的效果。由表3 可以看出，CMDC 算法在AMiner 数据集的提升效果最为明显，其原因是论文在摘要维度中多关注论文解决的实际问题和使用方法，用词差异大，使用的用户维度由相关文献的第一作者组成，其共同关注度更高，AMiner 数据集的互补性更好。相比于AMiner数据集，MHN 数据集的3 个表示维度的关联度更高，互补性更弱，因此多维度性能提升效果不显著。

表3 多维度聚类性能NMI

综合单维度聚类性能，由表 3 可以看出CMDC 算法在不同特点的AMiner 和MHN 数据集上性能都较为稳定，而MSC_IAS 在差异性较大的数据集（AMiner 数据集）的性能低于基线方法，甚至可能导致丢失单维度数据的有效特征；面向文本数据低秩和稀疏等特点，MLRSSC 系列算法也很好地改善了多维度间的度量差异，但相对于使用互补文本学习和约束文本聚类迭代进行的CMDC 算法，聚类性能还有约0.02 的差距。由此证明，CMDC 算法利用多维度文本数据的互补性，有效地解决了因多维度文本数据差异性带来的聚类效果低下的问题。多维度文本数据聚类的维度来源差异性越大、互补性越好，CMDC 算法的聚类结果越好。

4.3.3 多维度文本的互补效果实验

本节实验中，采用逐步提升互补文本对数量的方式来验证其对多维度聚类结果的影响。实验结果如图2 所示，从整体趋势看，2 个数据集在迭代的过程中都有很好的表现。

图2(a)所示，在AMiner 数据集中，用户维度嵌入的特征信息对摘要维度聚类效果的影响表现很稳定，明显上升后开始进入收敛阶段，充分说明在互补性较强的数据集上CMDC 算法效果显著。反观MHN 数据集（如图2(b)所示），正文维度初始聚类NMI 达到0.86，加入挑选互补文本集初期有较为明显的下降后进入收敛，产生此结果的原因是MHN 数据集的维度之间有较强的关联性，使正文维度在整体聚类过程中有最好的结果，而从其他2 个维度提取的互补文本数据对正文维度的互补性不强，甚至可能提取了含有噪声的文本用于互补，导致性能降低。相应地，标题维度和主题维度中包含的特征较少，效果不佳，而从正文维度中可提取更多的互补文本，呈现较明显的提升趋势。

4.3.4 多维度文本聚类一致性提升效果实验

CMDC 算法使用互补文本对挑选和约束文本聚类模块改善了不同维度之间的差异性问题，使置信度较高的样本在不同维度中得到一致的聚类结果。其中，互补文本旨在捕获不同维度的互补性，通过度量学习调整不同维度、不同类簇的测量方式，从而使式(4)所示的目标函数最小化。以数据集AMiner 为例，多维度聚类一致性的趋势如图3 所示。

图3 展示的是AMiner 数据集摘要维度使用3.3 节自动挑选的900 对互补文本进行约束聚类的情况，其中694 对与实际样本类别一致，206 对为噪声样本。在约束文本聚类的过程中，一致的约束互补文本对最高攀升到了568 对，并平均维持在476 对，说明通过CMDC 算法使来自用户维度的聚类信息运用到了摘要维度，通过约束文本聚类模块实现了聚类信息的共享；同时统计了在这些一致样本对中与实际样本类别相同的数量，可以看出与一致样本对数量趋势相同，并且差值保持在90 对左右，这些样本是会影响聚类的噪声样本对。聚类过程中一致样本对数量的震荡也是聚类性能趋势的体现。

图2 CMDC 算法在2 种数据集的NMI 性能

图3 多维度聚类一致性趋势曲线

总体而言，CMDC 算法自动挑选各维度间的测量不一致的样本作为互补文本，利用基于度量学习的约束文本聚类模块，通过递增互补文本促进聚类，提高不同维度间聚类性能的一致性。CMDC 算法过程可以实现改进不同类别形状达到更好的聚类效果。

5 结束语

本文提出的CMDC 算法是一种多维度文本聚类算法，算法中的互补文本挑选模块和约束聚类模块通过相互促进的迭代模式形成整体；有效地利用数据的互补性改善了多维度文本的差异性问题，实现聚类结果与度量学习的共同调优。CMDC 算法是基于度量学习在多维度文本聚类算法的改进，其思路亦可以应用于其他算法中，具有很好的通用效果。

本文算法还有需要进一步改进的地方，未来除了学习互补文本做约束外，将探索不同类簇之间潜在的聚类相关性语义[25]，以及在选择约束文本聚类的过程中，解决由低基线维度导致的互补文本集噪声问题。