非均衡数据的债券违约预警研究

程建华， 徐恒宇

(安徽大学 经济学院，合肥 230601)

0 引 言

近20年来，我国债券市场规模呈爆发式增长，但由于国家经济的整体情况呈现周期性回落的趋势，国家和市场经济结构加速调整，市场金融去杠杆的呼声日益增高，中国国内债券市场局部风险逐渐显现，债券违约率也水涨船高。2014年3月份，出现了我国信用债市场的首例违约公募债——“11超日债”，其出现打破了传统的“刚性兑付”思维[1]。随后爆发了一系列债券违约事件，直到2019年，我国市场债券违约的节奏才有所放缓，但是违约事件依然屡见不鲜。因此，建立债券违约预警模型对投资者加强风险防范和我国债券市场与国民经济稳定健康发展具有重要的现实意义。

为了能够将可能发生违约的债券主体提前识别出来，需要建立相关的债券违约预警模型。从学术研究角度，债券违约模型本质上是一个二分类问题，即在何种条件下债券可能发生违约和未违约。在二分类问题研究中，最常使用的是诸如神经网络、随机森林、logistic回归以及支持向量机等经典可监督分类模型，这些模型可对样本中未加识别的债券进行违约预测判断。在实际问题的研究中，非均衡样本的问题大量存在。所谓非均衡样本是不同分类中一种分类占比过大，另一种分类占比过小，如银行信用检测、机械精度检测、医疗检测、语音信号处理、风险预警、信息检索等[2]。由于企业发生债券违约的数量在发行的信用债中所占比例非常低，所以样本非均衡化问题一直是债券违约研究的难点及重点。张永东[3]指出在分析不均衡样本的情况下，直接进行分类会导致分类器过多地关注数据中的多数类别，而忽视少数类别，进而使得分类结果具有明显的偏向多数类；Sun等[4]研究也表明通常分类器将重点放在多的数类别上，因为它在样本中所占有的权重比例较高。为了降低损失函数，分类器在整个数据集中识别多数类的样本可以达到很高的准确性，而对少数类样本的分类识别正确率自然会降低。当所研究的数据集高度不平衡时，算法的分类性能将受到重大影响。支持向量机(SVM)在非均衡样本下的应用研究主要包括改进算法和惩罚函数的权重以及平衡数据的正负类样本。而对于数据集层面的非均衡样本处理方法通常是人工平衡样本，主要是运用欠采样或者过采样的方法对训练集样本进行重构，从而降低样本的非均衡程度，以此来提高SVM分类器的预测准确率。

在经济领域，关于风险预警研究方面普遍存在非均衡样本问题，但国内学者较少将计算机领域的样本均衡化方法引入风险预警领域。令人可喜的是，近些年来国内学者开始重视风险预警方面的研究。张永东将ADASYN与Logistic相结合，通过过采样的方法改进Logistic的预测精度，在债券违约预警研究中，取得了良好效果；付君实运用不同的非均衡样本处理方法对传统的SVM模型进行改进，将Borderline-SMOTE-Easy-Ensemble-SVM模型引入极端金融风险预测中，预测精度显著提高。上述文献研究表明：样本均衡化方法较少应用于经济领域，非均衡样本问题也未在债券市场中引起重视。同样，在债券预警领域研究中，指标数量多且各个指标存在较强的相关性，即存在数据冗余问题。刘依恋[5]指出分类器会因数据维数过多而造成效率下降与过度拟合。目前，鲜有文献认识到冗余问题对于预警模型分类性能具有同样重要的作用。

基于以上研究，本文从数据层面入手，一方面引入样本数据均衡化算法，使用ADASYN算法自适应合成少数类样本，使得SVM训练的数据主要由多数类样本和均衡化的少数类样本构成；另一方面为进一步提高SVM预警模型的分类性能，将特征选择中的mRMR算法引入债券违约预警领域中，除去冗余、噪音数据，进而构建ADmR-AdaBoostSVM模型，选择预测效果最佳的参数。

1 研究方法

样本均衡化一直是数据挖掘研究中数据处理最为棘手的问题之一。面对数据不均衡的问题，SVM同样存在误判少数类别的分类，而在债券违约预警研究中，违约样本应作为重点关注的样本，但对此不均衡样本数据的分类，单纯的SVM方法显得势单力薄。目前，针对不均衡数据，利用SVM分类存在两方面问题，一是算法问题，二是数据本身问题。算法方面的问题是指直接构建模型处理分类问题，如使用更高的权重损失用于少数类上，从而使得模型对于少数类别更为敏感；而数据方面处理方法则是利用适当的方法重构样本，使得数据的分布更加均衡，以提高分类器的性能。本文为提高SVM模型分类的准确性与有效性，对数据与模型两方面所存在的问题开展研究。针对数据不均衡问题，柳培忠等[6]研究发现ADASYN 算法可以根据样本的分布情况来进行过采样，从而能够有效提高少类样本在边界区域的比例，能够缓解边界区域分布不平衡的问题，提高分类器的敏感度。下面是ADASYN算法的详细情况。

1.1 ADASYN采样

ADASYN方法属于自适应的合成采样算法，该算法主要思想是通过数据自身的分布情况来为少数类的样本自动生成新样本。

算法流程：

输入假设训练集Dtr中具有m个样本为{xi，yi}，i=1，…，m，其中xi是n维空间中的一个样本，yi∈Y={1，-1}是与xi相关联类标签。定义ms和ml分别代表少数类和多数类样本数目，即ms≤ml，ms+ml=m。

① 计算不平衡度d=ms/ml，d∈(0，1]。

② 计算合成样本量d=(ms-ml)×β。

③ 使用k近邻原则选择少数类样本的k个最近样本，使用欧氏距离度量近邻程度，记△为k个样本中多数类样本，记比例r为ri=Δi/K，i=1，…，ms，ri∈[0，1]。

⑥ 在每一个少数类样本的周围k个邻居中选择一个属于少数类的样本，然后由等式si=xi+(xzi-xi)×λ进行合成数目为止。

1.2 最大相关最小冗余

由于数据信息行业的迅速发展，数据量的获取也变得容易，从而造成了数据维度的扩大。虽然在一定程度内，数据的分类准确率会随着维度的增长呈指数增长，但是在进行数据分析时，数据维度增加，解释变量过多还还会产生负面影响，比如线性回归模型多重共线性、过度拟合等问题。特别是当数据的维度过高、指标过多时，其中包含了过多内部相关项、冗余项和随机干扰项等，分类器会因数据维数过多而造成效率下降与过度拟合。高维数据的分类算法不仅使得模型精度下降，还会造成过拟合的风险，并由此带来“维数灾难”[7]。剔除最大相关项、降低数据维数、提高分类精度成为处理高维数据的主要方法之一。特征选择是通过从多个指标中选择少数最具有代表性的指标，用选择好的指标进行建模，能够使得与目标指标之间的信息量几乎完全保留，而各指标之间的信息量冗余较小。总的来说，特征选择可以通过降低特征维数，提升学习模型的训练速度从而达到比较好的训练效果[8]。特征提取和特征选择是目前主要的降维方式。特征提取是通过将某些原始特征或指标映射到更低维的空间，从而生成一些新的特性；而特征选择目的是找出原特征指标中最具有代表性的特征子集。特征选择不仅大幅度降低了数据维度，提高了分类器学习效率，而且可以提高分类器对各特征信息的学习功能，有效缓解过拟合现象[9]。

由于我国债券违约指标为公司的各个指标，所以数量较多且各个指标之间存在较强相关关系，必须要考虑数据冗余问题，并且其中存在着非线性关系，因此引入基于交互信息的提取特征方法：最大相关最小冗余(mRMR)算法。mRMR的思想是利用交互信息量为参考指标来选择目标特征，通过惩罚已选取的各指标之间的冗余性使得选择的指标之间的相关性较小。

待选取的特征集S和目标类c的交互信息量由各个已选取特征fi和用于分类的目标类c之间的所有交互信息量的平均值来决定，由式(1)定义：

(1)

集合S中冗余信息定义用已选特征fi，fj之间的互信息值的平均值，如式(2)表示：

(2)

mRMR是结合上述两种定义，最大化式(3)：

(3)

mRMR算法是最大化待选特征指标与目标指标之间的信息量，最小化待选特征指标内部的冗余信息，指标的选择数目需进行定义。

1.3 Adaboost算法

SVM对不均衡数据中的多数样本非常敏感，此时分类器无法学习少数类样本特征，对于SVM可以选择多个核函数，从而能够提高该分类器的准确性，因此选择Adaboost以改进传统的SVM模型。AdaboostSVM算法只需通过改变模型参数来拓展SVM分类器的精度范围。下面将详细描述Adaboost算法。

Adaboost算法是Yoav Freund和Robert Schapire在1997年提出的解决分类的一种算法[8]。它采用对训练样本进行重新加权的方式产生不同的样本分布，中心思想是增加(减少)被错误(正确)分类的样本权重。开始时对于每一个样本设置权重，一般选择简单的平均值，在上一次分错的分类器样本的权重增大，其余的相应减少，对于更新权重后的样本继续重复上述步骤。对于每轮训练的结果，用总体样本再次训练弱分类器，然后赋予新的样本权值以及该弱分类器的权重，迭代至训练集完全正确或者实现决定的次数为止。

具体过程如下:给定样本xi∈X，分类yi∈Y={0，1}，初始化D1(i)=1/M。当t=1，…，T时，有{(x1，y1)，…，(xM，yM)}。

① 使用分布概率Dt训练基分类器ht：X→Y。

② 计算误差：εt=Pri～Di(hi(xi)≠yi)。

③ 选择权重更新参数αt。

(4)

2 AdaboostSVM模型

由于国内外经济金融形势的变化，为了社会融资成本的考虑，需要债券市场的稳定发展，一旦发生债券违约，不但给上市公司带来重大损失，市场信用还将蒙受伤害，因此对债券违约进行预警和风险评估有助于促进证券市场稳定发展。本文在前人债券违约预警研究基础上，利用AdaboostSVM算法进一步开展债券违约预警研究，旨在提高债券违约预测的准确率。

AdaboostSVM算法只通过改变参数来拓展成员Adaboost分类器的多样性。基于上述考虑，本文提出了适用于不平衡数据的分类模型ADmR-AdaboostSVM模型。该模型首先用ADASYN方法进行对少数类过采样，提高边界区域的少类样本比例，然后再利用mRMR进行特征选择，解决高维数据对分类器带来的“维数灾难”，最后借助新的训练集对参数进行训练，得到最终的决策模型。

设训练数据集Dtr中具有m个样本为{xi，yi}，i=1，2,…，m，给定xi∈X，其中i=1，2,…，16，yi∈Y={0，1}，在进行ADASYN采样之后，平衡度d为1；然后利用特征选择mRMR的方法对向量X求各个指标之间的最大相关和最小冗余，最后不断地训练模型使得参数达到最优。

建模步骤流程如图1所示：

图1 建模流程图Fig. 1 Modeling flow chart

3 实证分析

3.1 样本的选取与数据来源

本文选取2018年上海交易所和深证交易所发行的信用债券(公司债与企业债)作为研究样本，其中交易所发行的信用债共有468只，实质违约的信用债有30只。

3.2 指标特征分析

蒋书彬[10]、蒋恒和杜立辉[11]对债券违约都做过相应研究，通过他们的研究发现，债券违约具有一定的阶段性以及过程性，具体表现为违约之前大多数企业会呈现财务危机过度、负债等问题。而过度负债是指企业付息能力不足、资产负债率过高和短期融资周转过慢，能够部分体现出企业经营不善[12]。而过度的无法偿还的债务使得发行人陷入困境，这会直接导致债务违约。过度负债、抗风险能力弱等是财务出现困境的主要特征，是债券违约产生的主要因素。

企业的正常经营多数情况下都需要负债，但债务需要通过公司对资产创造的收入、利润、现金流等来进行偿还，因此，企业的负债需要掌握好程度，如果企业的债务超过某个阈值，企业债券违约发生的概率将会增大。本文借鉴前人指标研究，从企业的资本结构、盈利能力、现金流量、偿债能力4个方面入手，准确地把握企业的财务危机，对信用债券违约进行预警研究。基于以上4个方面，筛选如下的16个指标进行后续分析，如表1所示。

表1 预警指标体系Table 1 Early warning index system

在建模之前，需要对数据进行筛选与清洗，其中包括脏数据清洗、缺失数据弥补与异常值的判定。对于缺失数据采取删除或者替补的方法进行处理。若对于某个样本存在大量缺失的指标无法提供有效信息，则删除这类指标。若存在个别财务指标缺失，选择与其他指标相似度较高的指标，采取K近邻的方法进行替补。

3.3 样本均衡化

由于违约样本数据量明显少于非违约样本数据量，因此在建模之前采用ADASYN算法将数据进行扩充。违约样本为正向数据，其中训练集有20个正向数据和292个负向数据，本文使用ADASYN算法扩充了271个正向数据，这样数据之间基本达到均衡，从而适合SVM进行更方便的处理。

如图2和图3的二维图形是将成本费用利润率X8和股权比例X15两个指标进行可视化ADASYN操作的过程，其中x表示违约样本，o表示非违约样本。经过过采样后样本数据达到均衡，而且从图中可以看出：总体样本中，违约样本几乎都在成本费用利用率左侧，这表明成本费用利用率越高越不容易违约，而股权比例表示未持有的股份比例，这说明未持有股份越高，越有可能导致违约风险提高，与经济学的规律相吻合，而在ADASYN抽样之后并没有消除这种隐含的关系，过抽样后数据的分布更明显，更有利于机器的学习。

图2 原始数据Fig. 2 Raw data

图3 采样后数据Fig. 3 Data after sampling

3.4 mRMR特征提取

本文一共选取了16个指标，并将这些指标分为4个大类，见表1，其中每个指标都是描述和反映公司企业生产、经营与管理等各个方面能力，不同指标之间存在不可避免的相关性与信息的交互性，而多余的信息对于本文所使用的SVM模型可能会起到过拟合的负面影响，所以对拟选的指标进行遴选是非常必要的。指标遴选有主成分分析(PCA)法和广义加性模型(GAM)方法等，而PCA只是对数据内部进行线性重组，得出较少的能够概括大部分信息的变量，并没有考虑到解释变量对目标变量的影响；GAM方法则是利用非参数回归的置信度来表示解释变量对于目标变量的影响，没有考虑到各解释变量之间的交互信息冗余，以上两种方法都存在缺陷。实际上这16个特征之间存在着很强的相关性与非线性关系，为此，本文提出最大相关最小冗余方法用于减少冗余解释变量，从而降低数据分析的维度。与此同时，为了解释变量对目标变量的信息贡献度与解释变量内部交互信息冗余，本文综合以上两种方法的优点，而且保留各个变量的数据，使得对最后分类解释更加直观。

综上所述，本文研究基于债券违约数据，采用最大相关最小冗余算法(mRMR)进行特征的提取[13]，将选择出的最优自己作为 SVM 模型的输入。在使用mRMR方法后，选取4个指标：长期负债率(X3)、资本收益率(X7)、成本费用利润率(X8)以及股权比例(X15)。其中长期负债率为资本结构指标，它表示的是公司长期的负债状况，长期负债率越高，表示企业债务的负担越重，对企业的偿债能力产生负向的影响；资本收益率越高表面企业的预计盈利能力越强，能够带给公司充足的现金流，对企业的债务偿还与再融资帮助很大，对企业的债券偿还有着正向的作用；成本费用利润率是指企业一定期间的利润总额与成本、费用总额的比率，该指标衡量的是企业的全部劳动带来多少利润，能够综合反映出该企业的经济效应水平，能够代表企业的盈利质量，也能有一部分对企业的偿债有正向推动作用；股权比例和长期负债率都是表示企业的债务负担量，都是负向的影响。用这4个指标进行分类，理论上可以得到较好的结果，并在结果分析中得到验证。

3.5 模型评估

在评估不均衡样本数据集的分类性能时，传统的性能评估指标已经不合适。针对传统性能评估存在的缺陷，采用二分类样本集的混淆矩阵，混淆矩阵会对预测结果与实际结果进行分类、对比、汇总，将样本划分为真正类(TP)、真负类(FN)、假正类(FP)、假负类(TN)，具体如表2说明。

表2 性能评估混淆矩阵Table 2 Performance evaluation confusion matrix

本文使用3种评估标准。

(1)总体精度(OA)：

(2)正类预测值定义为查准率，表示预测正确的样本所占的比例：

(3)真实正类率或者叫查全率，表示正确正类占所有预测样本的比例：

3.6 结果分析

本文利用ADmR-AbaboostSVM算法对债券违约进行预警判断。为了对所采用的分类算法做出评估，针对这一分类方法的性能在基于相同检验集的基础上，将其与AdaboostSVM，mRMR-AdaboostSVM，AD-AdaboostSVM 3种算法进行比较，结果如表3所示。

表3 评估结果表Table 3 Evaluation result table

如表3所示，总体精度(OA)最高达到92%，是由于原始数据的正类数据(违约样本)过少导致AdaboostSVM对于正类数据几乎无敏感度，分类器无法学习违约样本的特征，将所有的样本全部预测为非违约样本，虽然结果总体精度显著，但没有应用价值。相对于之后的改进模型，虽然总体精度更低，但更容易找出违约样本。在研究债券预警问题中，识别出违约债券才是关键。从表3中可以看出后两种方法要优于不经过过采样的数据集，而在mRMR提取信息之后的样本中可以发现查准率略有提高，说明mRMR方法应用在债券预警上有更好效果。为了进一步评价模型精度，本文通过比较各个算法的ROC曲线以及得分值做出更客观的评价(图4—图7)。

图4 AdaboostSVM模型ROC曲线Fig. 4 ROC curve of AdaboostSVM model

图5 AD-AdaboostSVM模型ROC曲线Fig. 5 ROC curve of AD-AdaboostSVM model

图6 mR-AdaboostSVM模型ROC曲线Fig. 6 ROC curve of mR-AdaboostSVM model

图7 ADmR-AdaboostSVM模型ROC曲线Fig. 7 ROC curve of ADmR-AdaboostSVM model

表4 算法效果比较Table 4 Comparison of algorithm effects

如图4所示，在非违约债券数量占比非常大时，ROC曲线很接近右下方，识别出违约债券的概率非常小，进行样本均衡化之后总体精度明显提高(如表4所示)。从图5和图6可知，在研究债券违约问题上，高维数据虽然会影响分类器的准确率，但远不及数据不均衡化给分类器带来误判率的灾难。由图7可知，在数据均衡化之后再进行特征选择，ROC曲线的面积进一步扩大，由表4可知，ADmR-AbaboostSVM的判别准确率在违约样本数量较小时可以达到85%左右，说明该模型获得了更好的分类性能。

4 结 论

本文选择Adaboost下的SVM模型是为了更好地拟合训练数据，单纯的SVM容易受样本量和缺失值的影响，而在Adaboost下可以很好地训练样本，使模型得到更好地拟合和预测能力。

债券样本中存在大量的不违约样本与少量的违约样本，如果直接运用常规的AdaboostSVM方法，则会使分类器对正常样本“过度学习”，从而大大削弱分类器对违约的少数类样本的拟合能力和预测精度。本文通过信用债预警指标体系，从企业资本结构、盈利能力、现金流量、偿债能力4个维度刻画和评价发债主体的财务特征，使用ADASYN进行人工合成新样本，正负类配对比例为1∶1，改进了AdaboostSVM方法对违约样本预测性能，用检验集对模型进行预测，得出模型AUC值为78%，效能相较于AdaboostSVM模型提高了14%，取得了较好的预测效果。

特征选择是分类中的一个重要步骤，由于债券预警指标之间存在大量的相关性和冗余，通过利用mRMR特征选择的方法对变量进行特征选择，最终预测效果为85%，债券违约的识别率进一步提高。相较于样本均衡化，单纯的特征选择并未取得很好的效果，说明数据不均衡问题是影响债券预警模型精度的主要原因。

本文的不足之处在于债券公司的样本过少，无法使用交叉验证的方法来调整参数得到最优值，而只能通过以往的经验来确定参数的大小；其次应该更注重违约公司，对于很多无法分类为违约公司的确认违约公司，有待做出进一步分析。