基于稀疏表示和弹性网络的人脸识别

李光早，王士同

(江南大学 数字媒体学院，江苏 无锡 214122) (*通信作者电子邮箱firstliguangzao@163.com)

基于稀疏表示和弹性网络的人脸识别

李光早*，王士同

(江南大学 数字媒体学院，江苏 无锡 214122) (*通信作者电子邮箱firstliguangzao@163.com)

由于稀疏表示方法在人脸分类算法中的成功使用，在此基础上提出了一种更为有效的基于稀疏表示(SRC)和弹性网络相结合的分类方法。为了加强样本间的协作表示能力以及增强处理强相关性变量数据的能力，基于迭代动态剔除机制，提出一种结合弹性网络的稀疏分解方法。通过采用训练样本的线性组合来表示测试样本，并运用迭代机制从所有样本中剔除对分类贡献度较小的类别和样本，采用Elastic Net算法来进行系数分解，从而选择出对分类贡献度较大的样本和类别，最后根据计算相似度对测试样本进行分类。在ORL、FERET和AR 三个数据集进行了许多实验，实验结果显示算法识别率分别达到了98.75%、86.62%、99.72%，表明了所提算法的有效性。所提算法相比LASSO和SRC-GS等方法，在系数分解过程中增强了处理高维小样本和强相关性变量数据的能力，突出了稀疏约束在该算法中的重要性，具有更高的准确性和稳定性,能够更加有效地适用于人脸分类。

稀疏表示；弹性网络；人脸识别；岭估计；Lasso估计

0 引言

尽管目前人脸识别技术在现实生活当中得到了许多应用，但是人脸识别技术仍然是研究的热点。在人脸识别的实际应用过程中会受到外部许多因素的干扰而使面部识别效果降低，比如不同的光照条件、面部表情、姿势和遮挡等因素，而且面部有效的可鉴别特征存在于高维图像的子空间中。高维子空间中存在大量的冗余信息，这样不但消耗大量的数据处理时间，而且对最后的分类结果造成很大的影响。

传统的人脸识别方法是通过变换轴来进行分类的，研究人员提出了许多局部线性变换方法，这类算法的变换轴是通过训练样本来进行构造的。Harandi等[1]尝试获得面部空间局部最优的变换轴。Sugiyama等[2]提出了一种十分有效的处理样本多样化问题的变换方法，这种变换方法结合了线性鉴别分析(Linear Discriminant Analysis, LDA)和局部保持投影(Locality Preserving Projection, LPP)。Liu等[3]提出在特征提取过程中使用了局部主成分分析(Local Principal Component Analysis, LPCA)方法。

在图像重建[4]过程中使用稀疏表示(Sparse Representation-based Pattern Classification, SRC)是近期研究的热点，将稀疏表示理论运用到人脸识别中，利用训练样本来线性地表示测试样本，通过计算测试样本与训练样本的线性表示的误差来进行样本的分类。文献[5-10]都是使用训练样本的线性组合来表示测试样本。在处理高维小样本数据时，可以有效地避免维数灾难以及因降维而导致数据结构信息的缺失，这样可以提高人脸识别算法在实际应用过程中的鲁棒性。

基于SRC的方法中，训练样本的优化问题是最基本问题[10]，强化了样本之间的可辨别性。Zhang等[11]经过分析SRC模型中的协作表示(Collaborative Representation ,CR)特性后，并证实了在SRC模型中，协作表示机制在分类中起到了关键性作用。而训练样本的优化也是必不可少的，在样本优化过程中，首先应该使得稀疏表示的测试样本的误差最小，其次还要使得真正的类别的稀疏系数达到最大，因此研究人员引进了贪婪搜索策略来弱化稀疏性约束条件。

Bo等[12]提出的匹配追踪(Matching Pursuit, MP)和Wang等[13]提出的正交匹配追踪(Orthogonal Matching Pursuit, OMP)是贪婪搜索算法的两种方法。MP算法通过迭代的方式每次在训练样本中得到一个与测试样本最匹配的训练样本，然后计算残差，计算完成之后，再继续寻找下一个最匹配的训练样本，直到符合最初设置的允许最小误差值，跳出迭代循环。OMP算法是对MP算法的改进，OMP在分解的每一步都会对所要选择的全部训练样本进行正交化处理。贪婪搜索算法的特点是通过迭代无限逼近测试样本，通过先求局部最优解,逐步地搜索到全局最优解，但是这种方法在人脸识别过程中取得的效果不是很理想。

因此，在实际的人脸识别过程中，系数分解时的稀疏约束条件是必要的。研究人员提出了一种新的变量选择技术最小绝对压缩方法，即 LASSO(Least Absolute Shrinkage and Selection Operator)[14]。LASSO估计是用于描述约束问题的一种压缩估计，它通过构造一个惩罚函数来得到一个简单精炼的模型，使得有些变量的系数等于或者趋近于零，因此具有变量选择的作用。LASSO估计可以进行连续的选择变量和模型参数估计。研究人员对LASSO进行了改进并提出了最小角回归(Least Angle RegreSsion, LARS)算法[15]。这种方法的提出使得 LASSO算法的计算更加简单，使得 LASSO算法在特征选择和参数估计方面得到了更广泛的应用。然而LASSO估计有自己的不足之处，对于高维小样本数据，会使得出来的模型过于稀疏，使得系数分解时得到的误差较大；而且LASSO估计对于向量间具有强相关性的数据，得到的结果也不是很理想。

鉴于上述算法的不足之处，本文提出了基于弹性网络(Elastic Network)的SRC模型，Zou等[16]提出了一种新的特征选择的算法叫作 Elastic Net。这种方法在自变量数目远远大于样本容量时，能够有效地进行向量选择，使得模型不至于过度稀疏，而且该算法能够有效地处理强相关性变量的数据，即有较好的自变量分组效应。

相对其他算法，弹性网络在模型变量选择方面表现会更加地好，在ORL、FERET和AR三个数据集的仿真实验结果进一步证明了，人脸识别率有了很大的提高。

1 稀疏表示

假设存在L类共计n个训练样本，训练样本记作n个列向量x1,x2,…,xn，假定测试样本y可以近似地表示为训练样本的线性组合，即：

(1)

从式(1)中可以得出，每一类的训练样本都可以线性地表示测试样本，而且第i个训练样本对于表示测试样本y的拟合度可记为αixi，因此所有来自第k类的训练样本的集合为xs,xs+1…,xt，则第k类训练样本的拟合总和为gk=αsxs+αs+1xs+1…+αtxt。若偏离度ek=‖y-gk‖2越小，则第k类训练样本与测试样本的拟合度越大，进而将测试样本y归为使ek最小的那一类。

2 SRC模型与算法描述

2.1SRC模型

算法的基本思路[17]是将测试样本表示为训练样本的线性组合。其大体上分为两步：第一步就是比较样本之间的欧氏距离，剔除若干对分类影响较小或起到负作用的类别或样本，然后在剩余的类别或样本中进行最后的分类决策。第二步根据弹性网络估计得到稀疏系数，并计算误差将测试样本归为误差最小的某一类。算法描述如图1。

图1 算法框架示意图

2.2 基于ElasticNet的SRC模型

LASSO估计是一种处理共线性数据的有偏估计。LASSO估计定义如下：

L(λ1,λ2,β)=‖y-Xβ‖2

(2)

此时t成为调整参数且满足t>0,LASSO是对分解系数的绝对值进行惩罚求值，因此LASSO估计的惩罚也叫L1惩罚，其约束条件就是一些变量的分解系数的绝对值之和小于一个常数t，这样使得一些变量的系数压缩为零，从而起到压缩变量的作用。

对于高维小样本数据(p≫n)，LASSO估计最多可能选择n个变量，这样会得到过于稀疏的模型，结果对人脸的分类决策造成非常大的负面影响，进而影响分类效果。因为LASSO估计不具有组效应性质，所以该算法在处理向量间具有强相关性的数据集时，其准确率和效果很差。LASSO估计对于每个分解系数不作区别进行相同程度的压缩，这样的后果会使某些系数过度压缩，更加影响分类准确率。

弹性网络能够有效地弥补上述算法的不足，很大程度上提高了算法识别率。研究人员提出了一种高维变量选择的算法叫作弹性网络(ElasticNetwork)，相比贪婪搜索策略和LASSO的稀疏分解方法，本文提出的稀疏分解方法增加了ElasticNet惩罚项，惩罚项的作用主要是保证最小二乘解的鲁棒性和强化解向量的稀疏性，使得模型更加简单精炼，准确率也有很大的提高。弹性网络还可以有效地处理高维小样本数据，不会使模型过于稀疏影响分类精度。ElasticNet有组效应性质，它将强相关性变量组全部剔除或者保留,能够保证每次得到的解是最优的，因此将ElasticNet算法应用在模型中的第二步对每类图像中的样本进行变量选择。

对于固定的非负值λ1和λ2，弹性网络准则定义如下：

(3)

(4)

算法流程如下：

1)假定有L个人脸n张图片，先将样本的图片转换成一维列向量，每一个列向量代表一张人脸图片，则n个列向量构成一个矩阵。

2)将矩阵中的所有的列向量标准化，并随机分成训练样本和测试样本矩阵。

3)首先根据训练样本和测试样本的欧氏距离，剔除距离最大的若干类和样本，完成训练样本的第一次更新。

4)在剩余的训练样本中使用弹性网络完成稀疏系数的分解，完成训练样本的第二次更新，此次更新需要满足终止条件(误差需要小于某一个值)。

5)停止更新，根据得到的稀疏解的计算结果和测试样本进行比较，那么测试样本归为误差最小的那一类。

2.3 算法时间复杂度

假设n个人脸图像为训练样本，经过m次迭代以后剩余的样本个数为n-m个，每个样本是p×1的向量。而总的样本个数为D，则算法对数据进行处理一次的时间复杂度为O(m3)+O(pm2)，每次剔除贡献度小的样本的时间复杂度为O(n)，所以整个动态类别剔除机制的总的时间复杂度为O(nm3)+O(npm2)+O(n2)，而剩余的n-m个样本的分解过程，其时间复杂度为O(mlbp)。总的时间复杂度为O(nm3)+O(npm2)+O(n2)。

3 实验

为了与上述方法进行比较，本文采用了ORL、FERET和AR三个人脸数据库进行了大量实验，这三个数据库中的照片是在特定的外部条件下采集。

图2 人脸数据库中的部分标准图像

ORL数据库共计400幅图像，分别来自40个类别，每个类别提供10幅样本图像。

FERET人脸数据库是人脸识别的一个标准数据库，本文只使用了数据库的一部分图像。共计1 400幅图像，分别来自200个类别，每个类别提供7幅样本图像。

AR人脸数据库中共计使用了3 120幅图像，分别来自120个类别，每个类别提供26幅样本图像。

首先将来自ORL数据库中的人脸图像降采样为46×56的尺寸大小，同样的FERET和AR人脸数据库图像分别降采样为40×40和40×50的尺寸大小。

特别指出的是所提出的人脸识别方法能够比较鲁棒地解决遮挡问题，因此本文分别对ORL、FERET和AR数据库进行了面部有遮挡的实验。三个数据集的实验参数如表1所示。本文算法是采用Matlab程序来实现的。

表1 3个人脸测试数据集的实验参数

图3所示，表示对ORL数据库不同的稀疏分解方法在不同的训练样本的情况下的分类识别率的变化。图中显示的是SRC、LASSO、OMP、ElasticNet算法作稀疏分解时分类算法的最终识别率。从图中可以看出本文提出算法的有效性。

表2列出了在ORL数据库上，SRC、CRC(CollaborativeRepresentationbasedClassification)、SRC-LARS、SRC-GS和本文提出的SRC-EN方法的分类准确率和部分识别率较高的算法运行时间。SRC-LARS为基于LARS的稀疏表示的人脸识别方法，SRC-GS(GreedySearch)为基于贪婪搜索的稀疏表示的人脸识别方法。SRC-EN是本文提出的基于ElasticNet的算法。

图3 ORL库下不同的稀疏分解方法在不同的训练样本下的识别率

比较项目方法训练样本数3456分类识别率/%时间/sSRC90．65±0．0893．24±0．0595．22±0．0696．33±0．07CRC91．78±0．0495．08±0．0496．40±0．0297．73±0．05SRC⁃LARS90．85±0．0494．05±0．0495．34±0．0496．32±0．04SRC⁃GS91．81±0．0695．14±0．0596．42±0．0597．88±0．05SRC⁃EN95．70±0．0996．25±0．0697．50±0．0598．75±0．08SRC⁃LARS263．65465．23586．32618．75SRC⁃GS98．68120．86201．17280．59SRC⁃EN287．62479．31595．95634．57

表3列出了在FERET和AR数据库上，SRC、CRC、SRC-LARS、SRC-GS和本文提出的SRC-EN方法的分类准确率和运行时间。

表3 FERET和AR上不同方法的识别率和时间比较

传统的SRC方法中，将测试样本用训练样本来线性表示，在理想状态下，只有与测试样本同类别的训练样本的系数较大，其余类别的训练样本的系数为零，但是在实际情况下，由于外部条件的影响下，如噪声、光照变化、遮挡等影响，使得分解系数不是稀疏的。因此在SRC模型中，本文引进了弹性网络约束来求解稀疏表示系数，使得测试样本的重构误差减小，并且突出了真正的类别；而且该算法能够有效地处理高维小样本和具有强相关性变量的人脸数据集，具有很高的适应性，但是由于算法比较复杂，因此算法时间复杂度相比传统的算法稍微大一些。

4 结语

人脸识别算法一般是建立在子空间的特征提取的基础之上的，但是在人脸识别算法的应用过程中，子空间的提取的稳定性会受到表情、光照和姿势等的影响，影响了人脸识别的效果。本文提出了一种基于稀疏表示和弹性网络的人脸分类方法。这种方法将测试样本表示成训练样本线性组合的方式，并且通过迭代方式来剔除对分类产生负作用的若干个样本，同时能够使得对分类起到决定作用的类别的稀疏系数变大。在系数分解过程中稀疏性约束是必要的，因此不能简单地被弱化，本文采用弹性网络增加了ElasticNet惩罚项。一方面保证了最小二乘解的鲁棒性，另一方面强化了解向量的稀疏性。对于人脸数据集来说，样本向量之间具有强相关性。相对于传统的贪婪搜索策略，ElasticNet具有组效应性质，保证每一步能够得到最优解，而且还能够有效地处理高维小样本数据，使得模型不会过于稀疏。仿真实验表明人脸分类识别率有明显的提高，适应性很高，具有较高的研究价值。相比于传统的变量选择方法该算法比较复杂，运行比较耗时，因此在保证准确率的前提下，注重效率是以后要研究的内容。

)

[1]HARANDIMT,AHMADABADIMN,ARAABIBN.Optimallocalbasis:areinforcementlearningapproachforfacerecognition[J].InternationalJournalofComputerVision, 2009, 81(2): 191-204.

[2]SUGIYAMAM.DimensionalityreductionofmultimodallabeleddatabylocalFisherdiscriminantanalysis[J].JournalofMachineLearningResearch, 2007, 8: 1027-1061.

[3]LIUZY,CHIUKC,XUL.Improvedsystemforobjectdetectionandstar/galaxyclassificationvialocalsubspaceanalysis[J].NeuralNetworks, 2003, 16(3/4): 437-451.

[4] 孙玉宝.图像稀疏表示模型及其在图像处理反问题中的应用[D].南京:南京理工大学,2010:1-10.(SUNYB.Imagesparserepresentationtheoryanditsapplicationtoimageprocessinginverseproblems[D].Nanjing:NanjingUniversityofScienceandTechnology, 2010:1-10.)

[5]WRIGHTJ,MAY,MAIRALJ,etal.Sparserepresentationforcomputervisionandpatternrecognition[J].ProceedingsoftheIEEE, 2010, 98(6): 1031-1044.

[6]WRIGHTJ,YANGAY,GANESHA,etal.Robustfacerecognitionviasparserepresentation[J].IEEETransactionsonPatternAnalysisandMachineIntelligence, 2009, 31(2): 210-227.

[7]YANGM,ZHANGL,YANGJ,etal.Robustsparsecodingforfacerecognition[C]//Proceedingsofthe2011IEEEConferenceonComputerVisionandPatternRecognition.Washington,DC:IEEEComputerSociety, 2011: 625-632.

[8]XUY,FANGX,LIX,etal.Datauncertaintyinfacerecognition[J].IEEETransactionsonCybernetics, 2014, 44(10): 1950-1961.

[9]XUY,ZHUX,LIZ,etal.Usingtheoriginaland‘symmetricalface’trainingsamplestoperformrepresentationbasedtwo-stepfacerecognition[J].PatternRecognition, 2013, 46(4): 1151-1158.

[10] 朱杰,杨万扣,唐振民.基于字典学习的核稀疏表示人脸识别方法 [J].模式识别与人工智能,2012,25(5):859-864.(ZHUJ,YANGWK,TANGZM.Adictionarylearningbasedkernelspamrepresentationmethodforfacerecognition[J].PatternRecognitionandArtificialIntelligence, 2012, 25(5): 859-864.)

[11]ZHANGL,YANGM,FENGX.Sparserepresentationorcollaborativerepresentation:Whichhelpsfacerecognition? [C]//Proceedingsofthe2011InternationalConferenceonComputerVision.Washington,DC:IEEEComputerSociety, 2011: 471-478.

[12]BOL,RENX,FOXD.Hierarchicalmatchingpursuitforimageclassification:architectureandfastalgorithms[EB/OL]. [2016- 02- 03].http://papers.nips.cc/paper/4473-hierarchical-matching-pursuit-for-image-classification-architecture-and-fast-algorithms.pdf.

[13]WANGJ,KWONS,SHIMB.Generalizedorthogonalmatchingpursuit[J].IEEETransactionsonSignalProcessing, 2012, 60(12): 6202-6216.

[14]DAGHIRWOJTKOWIAKE,WICZLINGP,BOCIANS,etal.Leastabsoluteshrinkageandselectionoperatoranddimensionalityreductiontechniquesinquantitativestructureretentionrelationshipmodelingofretentioninhydrophilicinteractionliquidchromatography[J].JournalofChromatographyA, 2015, 1403: 54-62.

[15]SHAHRIARIS,FARIAS,GONCALVESAM,etal.Outlierdetectionandrobustvariableselectionforleastangleregression[M]//ComputationalScienceandItsApplications—ICCSA2014,LNCS8581.Berlin:Springer, 2014: 512-522.

[16]ZOUH,HASTIET.Regularizationandvariableselectionviatheelasticnet[J].JournaloftheRoyalStatisticalSociety, 2005, 67(2): 301-320.

[17]MARONNARA.Robustridgeregressionforhigh-dimensionaldata[J].Technometrics, 2011, 53(1): 44-53.

[18] 刘梓,宋晓宁,唐振民.稀疏表示和贪婪搜索的人脸分类[J].中国图象图形学报,2015,20(1):39-49.(LIUZ,SONGXN,TANGZM.Sparserepresentationbasedfacerecognitionclassificationalgorithmusinggreedysearchstrategy[J].JournalofImageandGraphics, 2015, 20(1): 39-49.)

[19]VURALV,FUNGG,KRISHNAPURAMB,etal.Usinglocaldependencieswithinbatchestoimprovelargemarginclassifiers[J].JourhalofMachineLearningResearch, 2009,10: 183-206.

ThisworkispartiallysupportedbytheNationalNaturalScienceFoundationofChina(61272210).

LI Guangzao, born in 1988, M. S. candidate. His research interests include artificial intelligence, pattern recognition.

WANG Shitong, born in 1964. M. S., professor. His research interests include artificial intelligence, pattern recognition, neuro-fuzzy system, bioinformatics.

Face recognition based on sparse representation and elastic network

LI Guangzao*, WANG Shitong

(SchoolofDigitalMedia,JiangnanUniversity,WuxiJiangsu214122,China)

Because of the successful use of the sparse representation in face classification algorithm, a more efficient classification method based on Sparse Representation-based pattern Classification (SRC) and elastic network was proposed. To enhance the ability of collaborative representation and enhance the ability to deal with strongly correlated data, a sparse decomposition method based on elastic network was proposed based on the iterative dynamic culling mechanism. Test samples were represented by a linear combination of training samples, and the iterative mechanism was used to remove the categories and samples with less contribution to the classification from all the samples, the Elastic Net algorithm was used for coefficient decomposition to select the samples and classes with high contribution to the classification. Finally, the test samples were classified according to the similarity. The experiment results show that the recognition rate of the algorithm is 98.75%, 86.62% and 99.72% respectively for the ORL, FERET and AR data sets which shows the effectiveness of the proposed algorithm. Compared with the methods of LASSO and SRC-GS, the proposed algorithm can enhance the ability of dealing with high-dimension small sample and strongly correlated variable data in the process of coefficient decomposition. It highlights the importance of sparse constraint in the algorithm and has higher accuracy and stability, and can be more effectively applied to face classification.

sparse representation; elastic network; face recognition; ridge estimation; Lasso estimation

2016- 09- 18;

2016- 11- 17。 基金项目:国家自然科学基金资助项目(61272210)。

李光早(1988—)，男，山东汶上人，硕士研究生，主要研究方向：人工智能、模式识别； 王士同(1964—)，男，江苏扬州人，教授，博士生导师，硕士，CCF会员，主要研究方向：人工智能、模式识别、神经模糊系统、生物信息学。

1001- 9081(2017)03- 0901- 05

10.11772/j.issn.1001- 9081.2017.03.901

TP391.413

A